我在使用Tensorflow服务时遇到了一些问题。
我使用tensorflow服务将tensorflow模型部署为RESTful API。但是我怀疑tf服务服务器是否支持多线程。我已经做过一些实验,但事实并非如此。
我还注意到--tensorflow_session_parallelismtensorflow_model_server 有一个选项,但是使用该选项会使我的服务器更慢。
--tensorflow_session_parallelism
关于在多线程中使用tensorflow有参考吗?
multithreading tensorflow tensorflow-serving
multithreading ×1
tensorflow ×1
tensorflow-serving ×1