使用clock计算时间给出的值为零 - linux

Question

我有一个cuda代码,可以在GPU上执行计算.我正在使用clock(); 找出时间

我的代码结构是

__global__ static void sum(){

// calculates sum 
}

extern "C"
int run_kernel(int array[],int nelements){
 clock_t start, end;
  start = clock();
  //perform operation on gpu - call sum
 end = clock();
 double elapsed_time = ((double) (end - start)) / CLOCKS_PER_SEC;
 printf("time required : %lf", elapsed_time);
}

但是时间总是0.0000我检查了打印开始和结束时间.Start有一些值,但结束时间总是为零.

知道可能是什么原因？任何衡量时间的替代方案.

任何帮助,将不胜感激.

谢谢

Answer 1

这里有两个问题:

1. 该clock()功能的分辨率太低,无法测量您尝试计时的事件的持续时间
2. CUDA内核启动是一个异步操作,因此它几乎不消耗任何时间(在一个理智的平台上通常为10-20微秒).除非您使用同步CUDA API调用来强制主机CPU阻塞,直到内核完成运行,否则您将无法测量执行时间.

CUDA有自己的高精度定时API,它是在GPU上运行的定时操作的推荐方法.使用它的代码看起来像这样:

int run_kernel(int array[],int nelements){

    cudaEvent_t start,stop;
    cudaEventCreate(&start);
    cudaEventCreate(&stop);

    cudaEventRecord(start, 0);

    //
    //perform operation on gpu - call sum
    //

    cudaEventRecord(stop, 0); 
    cudaEventSynchronize(stop); 
    float elapsedTime; 
    cudaEventElapsedTime(&elapsedTime, start, stop); 
    printf("time required : %f", elapsed_time); 

    cudaEventDestroy(start);
    cudaEventDestroy(stop);
}

Answer 2

不要clock用来计算CUDA内核的启动时间.使用cudaEventElapsedTime.即使clock精度足够高以计算内核的时间(事实并非如此),内核启动也是异步的,这意味着控制流在内核完成之前返回到调用函数.

这是如何做:

void run_kernel(...)
{
  // create "events" which record the start & finish of the kernel of interest
  cudaEvent_t start, end;
  cudaEventCreate(&start);
  cudaEventCreate(&end):

  // record the start of the kernel
  cudaEventRecord(start);

  // perform operation on gpu - call sum
  sum<<<...>>>(...);

  // record the end of the kernel
  cudaEventRecord(end);

  // get elapsed time. Note that this call blocks
  // until the kernel is complete
  float ms;
  cudaEventElapsedTime(&ms, start, end);

  printf("time required : %f milliseconds", ms);

  cudaEventDestroy(start);
  cudaEventDestroy(end);
}