标签: nvidia-docker

我在需要 CUDA 10 的 docker 容器中部署应用程序。这是运行应用程序使用的一些底层 pytorch 功能所必需的。

但是，主机服务器正在运行 docker ce 17、Nvidia-docker v 1.0 和 CUDA 版本 9，我将无法升级主机。

我的印象是我被铐在主机上可用的 v1 nvidia docker 运行时和 CUDA 版本上。

有没有办法在容器上运行 CUDA 10 以便我可以利用这个工具包的功能？

我目前使用 Docker 19.03 和 Kubernetes 1.13.5 以及 Rancher 2.2.4。从 19.03 开始​​，Docker 已经通过传递--gpus选项正式支持原生 NVIDIA GPU 。示例（来自NVIDIA/nvidia-docker github）：

 docker run --gpus all nvidia/cuda nvidia-smi

但是在 Kubernetes 中，没有选项可以传递 Docker CLI 选项。所以如果我需要运行一个GPU实例，我必须安装nvidia-docker2，使用起来不方便。

无论如何，是否可以在不安装的情况下传递 Docker CLI 选项或传递 NVIDIA 运行时 nvidia-docker2

我正在构建一个图像，同时需要测试 GPU 可用性。GPU 容器运行良好：

$ docker run --rm --runtime=nvidia nvidia/cuda:9.2-devel-ubuntu18.04 nvidia-smi
Wed Aug  7 07:53:25 2019
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 396.54                 Driver Version: 396.54                    |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|===============================+======================+======================|
|   0  TITAN X (Pascal)    Off  | 00000000:04:00.0 Off |                  N/A |
| 24%   43C    P8    17W / 250W |   2607MiB / 12196MiB |      0%      Default |
+-------------------------------+----------------------+----------------------+

+-----------------------------------------------------------------------------+
| Processes:                                                       GPU …

我正在使用 Google 的 AI 平台使用自定义 Docker 映像训练机器学习模型。要在不修改的情况下运行现有代码，我想在容器内安装一个 GCS 存储桶。

我认为实现这一点的一种方法是安装gcloud到身份验证并gcsfuse安装在容器中。我的 Dockerfile 看起来像这样：

FROM nvidia/cuda:10.1-cudnn7-runtime-ubuntu18.04

WORKDIR /root

# Install system packages.
RUN apt-get update
RUN apt-get install -y curl
# ...

# Install gcsfuse.
RUN echo "deb http://packages.cloud.google.com/apt gcsfuse-bionic main" | tee /etc/apt/sources.list.d/gcsfuse.list
RUN curl https://packages.cloud.google.com/apt/doc/apt-key.gpg | apt-key add -
RUN apt-get update
RUN apt-get install -y gcsfuse

# Install gcloud.
RUN apt-get install -y apt-transport-https
RUN apt-get install -y ca-certificates
RUN echo "deb [signed-by=/usr/share/keyrings/cloud.google.gpg] https://packages.cloud.google.com/apt cloud-sdk …

我正在开发一个需要 nvidia 运行时的容器。我可以在 v2.3 docker-compose 文件中指定此运行时，如下所示：

version: "2.3"
services:
  my-service:
    image: "my-image"
    runtime: "nvidia"
    ...

跑步docker-compose up my-service效果很好。我得到了 nvidia 运行时，一切正常。

我只是通过将“2.3”更改为“3”来尝试此操作，并且在执行此操作时出现以下错误docker-compose up my-service：

ERROR: The Compose file './docker-compose.yml' is invalid because:
Unsupported config option for services.my-service: 'runtime'

如果我取出runtime: "nvidia"线路，就不会出现问题——当然，它没有使用 nvidia，而且我需要访问主机上的 GPU 以获得我想要的性能。

runtime在 docker-compose v3 中是否有等价物？如果没有，为什么这个选项被删除了？提前致谢。:)

目标：

我正在尝试在使用默认 Docker 驱动程序的 Minikube 集群上使用 Nvidia GPU 功能。

问题：

我可以使用nvidia-docker默认docker上下文，但是当切换到默认上下文时minikube docker-env，出现以下错误：

$ docker run --gpus all nvidia/cuda:10.0-base nvidia-smi\ndocker: Error response from daemon: could not select device driver "" with capabilities: [[gpu]].\nERRO[0000] error waiting for container: context canceled\n

环境：

\n
• 乌班图18.04
\n
• Minikube v1.10.0
\n
• 码头工人版本：
\n

$ docker version\nClient: Docker Engine - Community\n Version:           19.03.10\n API version:       1.40\n Go version:        go1.13.10\n Git commit:        9424aeaee9\n Built:             Thu …

我有一个 docker-compose 文件，如下所示：

version: "3.9"
services:
  api:
    build: .
    ports:
      - "5000"
    deploy:
      resources:
        reservations:
          devices:
          - capabilities: [gpu]
            count: 1

当我运行时docker-compose up，它会按预期运行，使用计算机上的第一个 GPU。

但是，如果我运行docker-compose up --scale api=2，我希望每个 docker 容器在主机上保留一个 GPU。

实际行为是两个容器接收相同的 GPU ，这意味着它们会竞争资源。此外，如果我在 中指定了两个容器，并且都带有. 如果我为每个容器手动指定 device_ids ，它就可以工作。docker-compose.ymlcount: 1