使用cudaMalloc分配矩阵

Question

我正在使用cudaMalloc和cudaMemcpy来分配一个矩阵并将其复制到它的向量数组中,如下所示:

float **pa;    
cudaMalloc((void***)&pa,  N*sizeof(float*)); //this seems to be ok
for(i=0; i<N; i++) {
    cudaMalloc((void**) &(pa[i]), N*sizeof(float)); //this gives seg fault
    cudaMemcpy (pa[i], A[i], N*sizeof(float), cudaMemcpyHostToDevice); // also i am not sure about this
}

我的指示有什么问题？提前致谢

PS A [i]是一个向量

---

现在我正在尝试将一个矩阵从Device复制到主机的矩阵:

假设我在设备中有**pc,并且**pgpu在主机中:

cudaMemcpy (pgpu, pc, N*sizeof(float*), cudaMemcpyDeviceToHost);
for (i=0; i<N; i++)
    cudaMemcpy(pgpu[i], pc[i], N*sizeof(float), cudaMemcpyDeviceToHost);

=错了....

Answer 1

pa是在设备内存中,所以&(pa[i])没有做你期望的事情.这会奏效

float **pa;
float **pah = (float **)malloc(pah, N * sizeof(float *));    
cudaMalloc((void***)&pa,  N*sizeof(float*));
for(i=0; i<N; i++) {
    cudaMalloc((void**) &(pah[i]), N*sizeof(float));
    cudaMemcpy (pah[i], A[i], N*sizeof(float), cudaMemcpyHostToDevice);
}
cudaMemcpy (pa, pah, N*sizeof(float *), cudaMemcpyHostToDevice);

即.在主机内存中构建指针数组,然后将其复制到设备中.我不确定你希望从中读到什么A,但我怀疑内心cudaMemcpy可能没有做你想要的写作.

请注意,从性能的角度来看,指针数组在GPU上并不是一个好主意.