在 CUDA 中交换两个寄存器变量的有效方法是什么？

Question

我开始写一些 CUDA 代码，我想对std::swap()内核中的两个变量做等价的；它们在寄存器文件中（没有溢出，不在某些缓冲区中，等等）。假设我有以下设备代码：

__device__ foo(/* some args here */) {

    /* etc. */

    int x = /* value v1 */;
    int y = /* value v2 */;

    /* etc. */

    swap(x,y);

    /* etc. */
}        

现在，我可以写

template <typename T> void swap ( T& a, T& b )
{
  T c(a); a=b; b=c;
}

但我想知道 - 不是有一些内置的 CUDA 用于此功能吗？

笔记：

• 是的，我希望它为所有线程运行。
• 不要在意我是否有足够的寄存器。假设我有它们。

Answer 1

我已经考虑了以下测试程序

template <typename T> __device__ void inline swap_test_device1(T& a, T& b)
{
    T c(a); a=b; b=c;
}

template <typename T> __device__ void inline swap_test_device2(T a, T b)
{
    T c(a); a=b; b=c;
}

__global__ void swap_test_global(const int* __restrict__ input1, const int* __restrict__ input2, int* output1, int* output2) {

    int tx = threadIdx.x + blockIdx.x * blockDim.x;

    int x = input1[tx]*input1[tx];
    int y = input2[tx]*input2[tx];

    //swap_test_device2(x,y);
    swap_test_device1(x,y);

    output1[tx] = x;
    output2[tx] = y;

} 

我已经拆开了它。使用swap_test_device1和的结果swap_test_device2是一样的。常见的反汇编代码如下

MOV R1, c[0x1][0x100];
S2R R0, SR_CTAID.X;
S2R R2, SR_TID.X;
MOV32I R9, 0x4;  
IMAD R3, R0, c[0x0][0x8], R2;
IMAD R6.CC, R3, R9, c[0x0][0x28];
IMAD.HI.X R7, R3, R9, c[0x0][0x2c];
IMAD R10.CC, R3, R9, c[0x0][0x20];
LD.E R2, [R6];                         loads input1[tx] and stores it in R2
IMAD.HI.X R11, R3, R9, c[0x0][0x24];
IMAD R4.CC, R3, R9, c[0x0][0x30];
LD.E R0, [R10];                        loads input2[tx] and stores it in R0
IMAD.HI.X R5, R3, R9, c[0x0][0x34];
IMAD R8.CC, R3, R9, c[0x0][0x38];
IMAD.HI.X R9, R3, R9, c[0x0][0x3c];
IMUL R2, R2, R2;                       R2 = R2 * R2
ST.E [R4], R2;                         stores input1[tx]*input1[tx] in global memory
IMUL R0, R0, R0;                       R0 = R0 * R0
ST.E [R8], R0;                         stores input2[tx]*input2[tx] in global memory
EXIT ;

反汇编代码中似乎没有显式交换。换句话说，对于这个简单的例子，编译器能够优化直接编写x并y在适当的全局内存位置中的代码。

编辑

我现在考虑了以下更复杂的测试用例

__global__ void swap_test_global(const char* __restrict__ input1, const char* __restrict__ input2, char* output1, char* output2) {

    int tx = threadIdx.x + blockIdx.x * blockDim.x;

    char x = input1[tx];
    char y = input2[tx];

    //swap_test_device2(x,y);
    swap_test_device1(x,y);

    output1[tx] = (x >> 3) & y;
    output2[tx] = (y >> 5) & x;

 }

与上述__device__功能相同。反汇编的代码是

MOV R1, c[0x1][0x100];              
S2R R0, SR_CTAID.X;                 
S2R R2, SR_TID.X;           
IMAD R0, R0, c[0x0][0x8], R2;       R0 = threadIdx.x + blockIdx.x * blockDim.x
BFE R7, R0, 0x11f;
IADD R8.CC, R0, c[0x0][0x28];
IADD.X R9, R7, c[0x0][0x2c];
IADD R10.CC, R0, c[0x0][0x20];
LD.E.S8 R4, [R8];                   R4 = x = input1[tx]
IADD.X R11, R7, c[0x0][0x24];
IADD R2.CC, R0, c[0x0][0x30];
LD.E.S8 R5, [R10];                  R5 = y = input2[tx]
IADD.X R3, R7, c[0x0][0x34];
IADD R12.CC, R0, c[0x0][0x38];
IADD.X R13, R7, c[0x0][0x3c];
SHR.U32 R0, R4, 0x3;                R0 = x >> 3
SHR.U32 R6, R5, 0x5;                R6 = y >> 5
LOP.AND R5, R0, R5;                 R5 = (x >> 3) & y
LOP.AND R0, R6, R4;                 R0 = (y >> 5) & x
ST.E.U8 [R2], R5;                   global memory store
ST.E.U8 [R12], R0;                  global memory store
EXIT ;

可以看出，仍然没有明显的寄存器交换。

Answer 2

据我所知，这完全无关紧要。

x和y不是“真实”对象：它们只存在于 C++ 标准描述的抽象机中。特别是，它们不对应于寄存器。

您可能会想象编译器在创建程序时会将它们分配给寄存器，但事实并非如此。存储在寄存器中的内容可以被打乱、复制、更改为其他内容，甚至完全消除。

特别是，无条件交换存储在寄存器中的两个变量通常根本不会生成任何代码- 它唯一的作用是编译器调整其内部表，以了解当时哪些对象存储在哪些寄存器中。

（即使对于条件交换，通常最好还是让编译器完成它的工作）