CUDA 推力：从设备复制到设备

Question

我有一个使用标准 CUDA malloc 在 CUDA 中分配的内存数组，它被传递给一个函数，如下所示：

void MyClass::run(uchar4 * input_data)

我还有一个类成员，它是一个推力 device_ptr，声明为：

thrust::device_ptr<uchar4> data = thrust::device_malloc<uchar4(num_pts);

这里 num_pts 是数组中值的数量，并且 input_data 指针保证为 num_pts 长。

现在，我想将输入数组复制到推力_设备_ptr 中。我查看了推力文档，其中很多都在谈论从设备复制到主机内存，反之亦然。我想知道在推力上执行此设备到设备复制的最佳性能最佳方法是什么，还是我应该只使用 cudaMemcpy？

Answer 1

执行此操作的规范方法就是使用thrust::copy. 具有thrust::device_ptr标准的指针语义，API 将无缝理解源指针和目标指针是在主机还是设备上，即：

#include <thrust/device_malloc.h>
#include <thrust/device_ptr.h>
#include <thrust/copy.h>
#include <iostream>

int main()
{
    // Initial host data
    int ivals[4] = { 1, 3, 6, 10 };

    // Allocate and copy to first device allocation
    thrust::device_ptr<int> dp1 = thrust::device_malloc<int>(4);
    thrust::copy(&ivals[0], &ivals[0]+4, dp1);

    // Allocate and copy to second device allocation
    thrust::device_ptr<int> dp2 = thrust::device_malloc<int>(4);
    thrust::copy(dp1, dp1+4, dp2);

    // Copy back to host
    int ovals[4] = {-1, -1, -1, -1};
    thrust::copy(dp2, dp2+4, &ovals[0]);

    for(int i=0; i<4; i++)
        std::cout << ovals[i] << std::endl;


    return 0;
}

这是这样做的：

talonmies@box:~$ nvcc -arch=sm_30 thrust_dtod.cu 
talonmies@box:~$ ./a.out 
1
3
6
10