Alo*_*ble 6 python flask tensorflow tensorflow-serving
我正在提供使用对象检测API训练的模型。这是我的做法:
如基础教程中所述在端口9000上创建Tensorflow服务
创建一个Python代码调用使用predict_pb2从类似tensorflow_serving.apis这项服务这
不过,我可以通过以下方式更轻松地完成工作:
如您所见,我本可以跳过使用Tensorflow服务。
那么,在我的情况下是否有充分的理由使用Tensorflow服务?如果没有,我应该在什么情况下使用它?
我相信您更喜欢 Tensorflow Serving 而不是 Flask 的大部分原因都与性能有关:
与几乎所有事情一样,这在很大程度上取决于您拥有的用例和您的场景,因此考虑利弊以及您的要求很重要。TensorFlow Serving 具有很棒的功能,但也可以通过一些努力实现这些功能以与 Flask 一起使用(例如,您可以创建批处理机制)。