tob*_*obe 11 python multithreading tensorflow tensorflow-serving
现在我们使用TensorFlow来训练和导出模型.我们可以像这样使用这个模型来实现推理服务tensorflow/serving.
我有一个关于tf.Session对象是否是线程安全的问题.如果是,我们可以在启动后初始化对象并使用单例对象来处理并发请求.
mrr*_*rry 15
tf.Session对于Session.run()来自多个线程的调用,该对象是线程安全的.
在TensorFlow 0.10之前,图形修改不是线程安全的.这已在0.10版本中修复,因此您可以在Session.run()调用的同时向节点添加节点,但不建议出于性能原因; 相反,建议sess.graph.finalize()在使用多个线程的会话之前调用,以防止意外的内存泄漏.
| 归档时间： |
|
| 查看次数： |
6016 次 |
| 最近记录： |