我想在同一命名空间内的不同 pod 中部署多个 ML 模型。但是,每当我从 aws ECR 中提取新映像并使用 helm 部署它时,它都会终止当前正在运行的 pod 并创建一个新的 pod。所以我无法部署多个模型。每次它都会杀死前一个并制作一个新的豆荚。
helm upgrade --install tf-serving ./charts/tf-serving/ --namespace mlhub
Run Code Online (Sandbox Code Playgroud)
或者
helm upgrade --recreate-pods --install tf-serving ./charts/tf-serving/ --namespace mlhub
Run Code Online (Sandbox Code Playgroud)
Run Code Online (Sandbox Code Playgroud)tf-serving-8559fb87d-2twwl 1/1 Running 0 37s tf-serving-8559fb87d-m6hgs 0/1 Terminating 0 45s
它杀死了前一个并创建了一个新的,但是两个模型的图像也不同,标签也不同。