小编Jea*_*lie的帖子

在 model_config_file 中分配版本标签失败

我有一个模型的版本 1 和 2,我正在尝试按照https://www.tensorflow.org/serving/serving_config#assigning_string_labels_to_model_versions_to_simplify_canary_and_rollback 上的说明为它们分配标签

我分别在/path/to/model/1和 中导出了两个版本,并/path/to/model/2使用以下命令启动服务器:

tensorflow_model_server --rest_api_port=8501 --model_config_file=models.config

以下models.config文件有效,并导致仅提供版本1(如果specific省略消息,则版本2按预期提供,因为它对应于最高数字):

model_config_list {
    config {
        name: 'm1'
        base_path: '/path/to/model/'
        model_platform: 'tensorflow'
        model_version_policy {
        specific {
            versions: 1
        }
    }
}
Run Code Online (Sandbox Code Playgroud)

我已经验证我可以使用服务器向模型发送请求并按预期执行推理。但是,如果我尝试version_labels使用此配置文件添加:

model_config_list {
    config {
        name: 'm1'
        base_path: '/path/to/model/'
        model_platform: 'tensorflow'
        model_version_policy {
        specific {
            versions: 1
        }
        version_labels {
            key: 'current'
            value: 1
        }
    }
}
Run Code Online (Sandbox Code Playgroud)

然后启动服务器失败并出现以下错误:

Failed to start server. Error: Failed …

tensorflow tensorflow-serving

5
推荐指数
1
解决办法
670
查看次数

标签 统计

tensorflow ×1

tensorflow-serving ×1