相关疑难解决方法(0)

TensorFlow Serving:在运行时更新 model_config(添加额外模型)

我正忙于配置 TensorFlow Serving 客户端,该客户端要求 TensorFlow Serving 服务器针对给定模型对给定输入图像进行预测。

如果请求的模型尚未提供,则会从远程 URL 下载到服务器模型所在的文件夹。(客户这样做)。此时我需要更新model_config并触发服务器重新加载它。

此功能似乎存在(基于https://github.com/tensorflow/serving/pull/885https://github.com/tensorflow/serving/blob/master/tensorflow_serving/apis/model_service.proto#L22) ,但我找不到有关如何实际使用它的任何文档。

我本质上是在寻找一个 python 脚本,我可以用它从客户端触发重新加载(或者以其他方式配置服务器以侦听更改并触发重新加载本身)。

python tensorflow-serving

9
推荐指数
1
解决办法
3844
查看次数

标签 统计

python ×1

tensorflow-serving ×1