OpenMP 运行时看不到我的 GPU 设备

Question

我正在尝试将一些 OpenMP 卸载到使用 GTX 1060 显卡的本地计算机上的 GPU。我的所有 CUDA 和 Cublas 示例都运行良好。然而，当我尝试运行一些 OpenMP 卸载时，它根本不起作用。为了获得 OpenMP 5.0 支持，我编译了 GCC 10.2.0 工具链。经过一些调试，我发现 OpenMP 运行时看不到任何设备。例如，此代码显示零：

#include <omp.h>
#include <stdio.h>

int main() {
    printf("%d\n", omp_get_num_devices());
    return 0;
}

不过，Nvidia 工具链已启动并正在运行：

$ nvidia-smi 
Sun Feb 21 23:06:40 2021       
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 450.51.06    Driver Version: 450.51.06    CUDA Version: 11.0     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  GeForce GTX 106...  Off  | 00000000:1D:00.0 Off |                  N/A |
|  0%   37C    P8    12W / 200W |    584MiB /  6075MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+

那么我错过了什么？OpenMP 运行时如何找到设备？

编辑：

我正在附加有关我的编译器的信息：

$ gcc -v
Using built-in specs.
COLLECT_GCC=gcc
COLLECT_LTO_WRAPPER=/opt/gcc/10.2.0/libexec/gcc/x86_64-pc-linux-gnu/10.2.0/lto-wrapper
Target: x86_64-pc-linux-gnu
Configured with: ./configure --prefix=/opt/gcc/10.2.0/
Thread model: posix
Supported LTO compression algorithms: zlib
gcc version 10.2.0 (GCC)

该代码是使用以下命令编译的：

gcc -fopenmp simple.c

Answer 1

要编译支持卸载的 OpenMP 代码，您需要告诉 GCC 确切的目标平台。这是通过-foffload=<platform>命令行选项实现的。对于 NVIDIA 设备，平台是nvptx-none，即您必须使用以下命令进行编译：

gcc -fopenmp -foffload=nvidia-ptx simple.c

尽管 GCC 支持卸载到多个目标平台，但由于所需的依赖性，并非每个 GCC 发行版都启用它们。例如，在我的 Arch Linux 上，GCC 根本没有编译支持卸载。如果执行上一条命令时收到错误，则说明您的 GCC 未配置为支持 NVIDIA。gcc -v除其他事项外，还向您展示编译器的配置方式。--enable-offload-targets=nvptx-none在配置选项中查找。

GCC wiki 上的卸载页面提供了有关受支持的卸载目标以及如何构建它们的更多详细信息。