获取Tensorflow服务中的暴露模型的信息

5ag*_*ado 5 tensorflow tensorflow-serving

一旦我有一台服务于多个模型的TF服务器,有没有办法查询这样的服务器以了解服务的模型?

是否有可能获得有关每个模型的信息,例如名称,界面,更重要的是,服务器上存在哪些模型版本并且可能会提供服务?

Thr*_*ran 7

很难找到关于此的一些信息,但有可能获得一些模型元数据.

request = get_model_metadata_pb2.GetModelMetadataRequest()
request.model_spec.name = 'your_model_name'
request.metadata_field.append("signature_def")
response = stub.GetModelMetadata(request, 10)

print(response.model_spec.version.value)
print(response.metadata['signature_def'])
Run Code Online (Sandbox Code Playgroud)

希望能帮助到你.

  • 关于如何在这里解码 response.metadata['signature_def'] 中包含的字节有任何想法吗? (2认同)