CUDA设备到设备转移昂贵

Question

我编写了一些代码来尝试交换2D矩阵的象限以用于FFT,它存储在一个平面阵列中.

    int leftover = W-dcW;

    T *temp;
    T *topHalf;
cudaMalloc((void **)&temp, dcW * sizeof(T));

    //swap every row, left and right
    for(int i = 0; i < H; i++)
    {
        cudaMemcpy(temp, &data[i*W], dcW*sizeof(T),cudaMemcpyDeviceToDevice);
        cudaMemcpy(&data[i*W],&data[i*W+dcW], leftover*sizeof(T), cudaMemcpyDeviceToDevice);
        cudaMemcpy(&data[i*W+leftover], temp, dcW*sizeof(T), cudaMemcpyDeviceToDevice); 
    }

cudaMalloc((void **)&topHalf, dcH*W* sizeof(T));
    leftover = H-dcH;
    cudaMemcpy(topHalf, data, dcH*W*sizeof(T), cudaMemcpyDeviceToDevice);
    cudaMemcpy(data, &data[dcH*W], leftover*W*sizeof(T), cudaMemcpyDeviceToDevice);
    cudaMemcpy(&data[leftover*W], topHalf, dcH*W*sizeof(T), cudaMemcpyDeviceToDevice);

请注意,此代码需要设备指针,并且DeviceToDevice会进行传输.

为什么这似乎运行得这么慢？这可以以某种方式进行优化吗？与使用常规memcpy的主机上的相同操作相比,我计时这个时间慢了大约2倍.

有任何想法吗？

Answer 1

我最后编写了一个内核来进行交换.这确实比设备到设备memcpy操作更快