nvidia-smi 是如何工作的？

Question

允许 nvidia-smi 获取硬件级别详细信息的内部操作是什么？即使某些进程已经在 GPU 设备上运行，该工具也会执行，并获取进程的使用详细信息、名称和 ID 等。是否可以在用户级别开发这样的工具？NVML 有什么关系？

Answer 1

Nvidia-smi 是NVML的薄包装。您可以借助Tesla 部署工具包中包含的 SDK 使用 NVML 进行编码。

使用 nvidia-smi 可以完成的所有事情都可以直接从 C 库 NVML 中查询。如果您需要在某种应用程序中查询此数据，最好（并且可能更容易）针对 NVML 进行编写，而不是解析 nvidia-smi stdout（过去格式已更改）。

还有NVML 库的python和perl绑定。因此，您可以使用比 C 更高级别的编程语言。