使用多个CUDA GPU

Abd*_*dul 6 cuda

我正在使用NVIDIA Grid K2进行CUDA编程.它有两个GPU,每个GPU有1536个核心.是否可以在单个或多个内核调用中使用这两个GPU?

tal*_*ies 9

不,这是不可能的.像Grid K2这样的多GPU卡上的每个GPU都是一个独立的CUDA设备,具有自己的内存.因此,每个GPU都有自己的CUDA上下文,必须明确编程.CUDA驱动程序或运行时不会自动将这两个设备用作内核启动的单个虚拟设备.

  • @ValCool:据我所知,答案是否定的,内存不是共享的.在支持的平台上,可以使用统一的虚拟内存和点对点内存访问,但两个独立的GPU只通过板上的通用PCI-e桥接芯片连接,通信基本上是PCI-e DMA速度 (2认同)