Kubernetes可以在Pod之间共享单个GPU吗？

Question

是否可以在kubernetes容器之间共享单个GPU ？

Answer 1

是的，这是可能的——至少对于 Nvidia GPU 来说是这样。

只是不要在资源限制/请求中指定它。这样，所有 Pod 中的容器都可以完全访问 GPU，就像正常进程一样。

Answer 2

正如官方文档所说

GPU 应该只在限制部分指定，这意味着：

您可以在不指定请求的情况下指定 GPU 限制，因为 Kubernetes 默认使用限制作为请求值。

您可以在限制和请求中指定 GPU，但这两个值必须相等。

您不能在不指定限制的情况下指定 GPU 请求。 容器（和 Pod）不共享 GPU。没有过度使用 GPU。

每个容器可以请求一个或多个 GPU。请求 GPU 的一小部分是不可能的。

此外，您可以关注此讨论以获取更多信息。