TensorFlow 服务于 S3 和 Docker

Question

我正在尝试找到一种方法来使用 Tensorflow 服务并能够添加新模型和新版本的模型。我可以将 tensorflow 服务指向 S3 存储桶吗？

我还需要它作为容器运行吗？这是可能的还是我需要实现另一个程序来下拉模型并将其添加到共享卷并要求 tensorflow 更新文件系统中的模型？

或者我是否需要构建自己的 docker 镜像才能从 s3 中提取内容？

Answer 1

我发现我可以使用TF S3连接信息（即使它没有在 TF Serving Docker Container 中概述）。示例 docker 运行命令：

docker run -p 8501:8501 -e AWS_ACCESS_KEY_ID=$AWS_ACCESS_KEY_ID -e AWS_SECRET_ACCESS_KEY=$AWS_SECRET_ACCESS_KEY -e MODEL_BASE_PATH=s3://path/bucket/models -e MODEL_NAME=model_name -e S3_ENDPOINT=s3.us-west-1.amazonaws.com -e AWS_REGION=us-west-1 -e TF_CPP_MIN_LOG_LEVEL=3 -t tensorflow/serving

注意由于此错误而设置了日志级别