小编Jun*_*Lee的帖子

tensorflow-serving是否支持多线程?

我在使用Tensorflow服务时遇到了一些问题。

我使用tensorflow服务将tensorflow模型部署为RESTful API。但是我怀疑tf服务服务器是否支持多线程。我已经做过一些实验,但事实并非如此。

我还注意到--tensorflow_session_parallelismtensorflow_model_server 有一个选项,但是使用该选项会使我的服务器更慢。

关于在多线程中使用tensorflow有参考吗?

multithreading tensorflow tensorflow-serving

6
推荐指数
1
解决办法
1606
查看次数