cudaFree没有释放记忆

Question

下面的代码计算两个向量a和b的点积.正确的结果是8192.当我第一次运行它时,结果是正确的.然后,当我第二次运行它时,结果是前一个结果+ 8192,依此类推:

1st iteration: result = 8192
2nd iteration: result = 8192 + 8192
3rd iteration: result = 8192 + 8192 
and so on.

我通过在屏幕上打印它进行检查,并且未释放设备变量dev_c.什么更多的写作导致类似于总和,结果是前一个值加上写入它的新值.我想这可能是使用atomicAdd()操作的东西,但是cudaFree(dev_c)毕竟应该擦除它.

#define N 8192
#define THREADS_PER_BLOCK 512
#define NUMBER_OF_BLOCKS (N/THREADS_PER_BLOCK)
#include <stdio.h>


__global__ void dot( int *a, int *b, int *c ) {

    __shared__ int temp[THREADS_PER_BLOCK];

    int index = threadIdx.x + blockIdx.x * blockDim.x;

    temp[threadIdx.x] = a[index] * b[index];

    __syncthreads();

    if( 0 == threadIdx.x ) {

        int sum = 0;
        for( int i= 0; i< THREADS_PER_BLOCK; i++ ){
        sum += temp[i];
        }
        atomicAdd(c,sum);
    }
}

    int main( void ) {

        int *a, *b, *c;
        int *dev_a, *dev_b, *dev_c; 
        int size = N * sizeof( int); 

        cudaMalloc( (void**)&dev_a, size );
        cudaMalloc( (void**)&dev_b, size );
        cudaMalloc( (void**)&dev_c, sizeof(int));

        a = (int*)malloc(size);
        b = (int*)malloc(size);
        c = (int*)malloc(sizeof(int));

        for(int i = 0 ; i < N ; i++){
            a[i] = 1;
            b[i] = 1;
        }

        cudaMemcpy( dev_a, a, size, cudaMemcpyHostToDevice);
        cudaMemcpy( dev_b, b, size, cudaMemcpyHostToDevice);

        dot<<< N/THREADS_PER_BLOCK,THREADS_PER_BLOCK>>>( dev_a, dev_b, dev_c);

        cudaMemcpy( c, dev_c, sizeof(int) , cudaMemcpyDeviceToHost);

        printf("Dot product = %d\n", *c);

        cudaFree(dev_a);
        cudaFree(dev_b);
        cudaFree(dev_c);    

        free(a); 
        free(b); 
        free(c);

        return 0;

    }

Answer 1

cudaFree不会删除任何内容,它只是将内存返回到池中以重新分配.cudaMalloc不保证已分配的内存值.您需要初始化程序使用的内存(全局和共享),以获得一致的结果.顺便说一句,malloc和free也是如此.

Answer 2

来自cudaMalloc()的文档；

记忆没有被清除。

这意味着 dev_c 未初始化，并且您atomicAdd(c,sum);将添加到恰好存储在返回位置的内存中的任何随机值。