nvidia-smi 中的 G 和 C 类型是什么意思？

Question

我有一个未解决的问题，因为我认为我的 cuda 代码没有在我的 GPU 中运行（这里）。我认为这是因为当我使用 nvidia-smi 时，我在我的进程的类型字段中得到了一个 C，但是我看到当我运行我的代码时我的 GPU-Util 增长，所以现在我不知道它是否在 cpu 中运行或GPU。有人可以向我解释一下 C 或 G 类型是什么意思吗？我发现了这一点：“计算进程显示为“C”，图形进程显示为“G”，同时具有计算和图形上下文的进程显示为“C+G”。但我不明白这是否意味着C代表CPU和G代表GPU，因为我不知道“计算过程”和“图形过程”是什么，或者它们之间有什么区别。

Answer 1

它们都适用于 GPU。

• C = 计算 = CUDA 或 OpenCL
• G = 图形 = DirectX 或 OpenGL

Answer 2

根据此处定义的 Ubuntu 手册页：https : //manpages.ubuntu.com/manpages/precise/man1/alt-nvidia-current-smi.1.html

• C = Compute，它定义了使用使用 CUDA 库的 Nvidia GPU 的计算模式的过程，用于使用 Tensorflow-GPU、Pytorch 等进行深度学习训练和推理
• G = Graphics，它定义了使用专业 3D 图形、gnome-shell（Ubuntu 的 GUI 环境）、游戏等使用的 Nvidia GPU 的图形模式来渲染图形或视频的进程
• C+G = Compute + Graphics，它定义了使用上面定义的上下文的过程。

nvidia-smi 的开发人员文档- NVIDIA 系统管理接口程序 http://developer.download.nvidia.com/compute/DCGM/docs/nvidia-smi-367.38.pdf

如果您想更深入地了解 Nvidia Turing GPU 的架构组件，请查看白皮书 @ https://www.nvidia.com/content/dam/en-zz/Solutions/design-visualization/technologies /turing-architecture/NVIDIA-Turing-Architecture-Whitepaper.pdf

作为一般规则，在像 ML 一样广泛的软件堆栈上工作的每个人都应该对他们工作的硬件组件有很好的了解。