你如何计算nvidia(cuda能力),gpu卡上的负载？

Question

我想知道如何在任务发送到卡时显示图形卡能力的百分比.像Gnome的系统监视器一样.

此外,如何获取设备参数以根据其硬件规格计算百分比

如何nvidia-smi -a获得利用率？是否有Cuda API要求卡提供此信息？

Answer 1

Process Hacker这样做(这仅适用于Windows),但它不是特定于CUDA的.

我知道它使用了一些未记录的函数 - 看看插件的源代码来了解如何.

Answer 2

你想做的事情在CUDA中并没有完成。对于特定 cuda 设备的利用率处理的百分比输出，您必须像 nvidia-smi 那样询问 GPU 驱动程序。

编辑：经过一番谷歌搜索后，我发现open-hardware-monitor它是用 C# 编写的，并展示了一种在 Windows 系统上利用 AMD 和 nVidia 卡的方法。AMD 卡的实现可在 Linux 和 Windows 上运行。

我查看了一些代码。查看 NVAPI.cs 文件，了解 open-hardware-monitor 如何在 Windows 上使用 nvidia dll 来获取所有传感器和加载数据。