Cuda虚拟课

Question

我想在cuda内核中执行一些虚拟方法,但是我不想在同一个内核中创建对象,而是想在主机上创建它并将其复制到gpu内存中.

我在内核中成功创建对象并调用虚方法.复制对象时出现问题.这是有道理的,因为显然虚函数指针是假的.发生的事情只是"Cuda网格发射失败",至少这是Nsight所说的.但是当看到SASS时,它会在虚拟函数指针的解除引用时崩溃,这是有道理的.

我当然使用Cuda 4.2以及在拟合卡上使用"compute_30"进行编译.

那么推荐的方式是什么？或者这个功能根本不受支持？

我有想法首先运行一个不同的内核,它创建虚拟对象并提取虚拟函数指针,以便在复制之前"修补"我的对象.可悲的是,这并没有真正发挥作用(还没有想到它)以及它将是一个丑陋的解决方案.

PS这实际上是这个问题的重演,遗憾的是从来没有完全回答过.

编辑:

所以我找到了一种方法来做我想做的事.但是要明确一点:这根本不是一个答案或解决方案,答案已经提供,这只是一个黑客,只是为了好玩.

首先让我们看看Cuda在调用虚拟方法时正在做什么,下面是调试SASS

//R0 is the address of our object
LD.CG R0, [R0];  
IADD R0, R0, 0x4;  
NOP;  
MOV R0, R0;  
LD.CG R0, [R0];
...
IADD R0, RZ, R9;  
MOV R0, R0;  
LDC R0, c[0x2][R0];
...
BRX R0 - 0x5478

因此,假设"c [0x2] [INDEX]"对于所有内核都是常量,我们可以通过运行内核并执行此操作来获取类的索引,其中obj是类的新创建的对象,其中:

unsigned int index = *(unsigned int*)(*(unsigned int*)obj + 4);

然后使用这样的东西:

struct entry
{
    unsigned int vfptr;// := &vfref, thats our value to store in an object
    int dummy;// := 1234, great for debugging
    unsigned int vfref;// := &dummy
    unsigned int index;
    char ClassName[256];//use it as a key for a dict
};

将其存储在主机以及设备存储器(存储器位置是设备存储器)中,并且在主机上,您可以使用ClassName作为查找对象来"修补".

但同样:我不会在任何严肃的事情中使用它,因为性能明智,虚拟功能根本不是很好.

Answer 1

目前,CUDA编译器和运行时(从CUDA 5.0开始)不支持您尝试执行的操作.CUDA C编程指南v5.0的D.2.6.3节内容如下:

D.2.6.3虚函数

当派生类中的函数覆盖基类中的虚函数时,重写和重写函数上的执行空间限定符(即__host__,__device__)必须匹配.

不允许将__global__具有虚函数的类的对象作为参数传递给函数.

虚函数表由编译器放置在全局或常量存储器中.

我建议您将类的数据与类的功能分开封装.例如,将数据存储在结构中.如果您计划对这些对象的数组进行操作,请将数据存储在数组结构中(以提高性能 - 超出此问题的范围).使用cudaMalloc,在主机上分配数据结构,然后将数据作为参数传递给内核,而不是使用虚方法传递类.

然后在设备上使用虚拟方法构造对象.使用虚方法的类的构造函数将设备指针内核参数作为参数.然后,虚拟设备方法可以对设备数据进行操作.

同样的方法可以用于在设备上的一个内核中分配数据,并在设备上的另一个内核中访问它(因为具有虚函数的类不能是内核的参数).