将 CUDA printf 重定向到 C++ 流

Question

问题陈述

我正在开发一个使用记录器进行调试的大型项目。因为我喜欢跟踪某些 CUDA 内核中发生的事情，所以我试图找到一种方法将printf我的 CUDA 内核重定向到一个stringstream（或任何流），然后可以将其转发到记录器。

可能的解决方案

我设法通过使用以下代码来做到这一点：

#include <cuda.h>
#include <stdio.h>
#include <unistd.h> // dup

#include <iostream>
#include <sstream> // stringstream
#include <fstream> // ofstream

char* output_file = "printf_redirect.log";

__global__ void printf_redirect(int* src, int* res)
{
    res[threadIdx.x] = threadIdx.x;
    printf("  %i: Hello World!\n", res[threadIdx.x]);
}

int main()
{
    using namespace std;

    const uint N = 2;

    // Note: dummy arrays are not actually used, but this should prevent the
    //       compiler from discarding the printf in the kernel.

    int *d_A, *d_B, *h_A, *h_B;
    size_t size = N * sizeof (int);
    cudaMalloc (&d_A, size);
    cudaMalloc (&d_B, size);
    h_A = (int*) malloc (size);
    h_B = (int*) malloc (size);
    cudaMemcpy (d_A, h_A, size, cudaMemcpyHostToDevice);

    std::cout << "std::cout - start" << std::endl;
    printf ("stdout - start\n");

    /// REGULAR PRINT
    // Print to regular stdout
    std::cout << "Output to stdout:" << std::endl;
    printf_redirect<<<1,1>>> (d_A, d_B);
    cudaDeviceSynchronize ();

    /// REDIRECTION TO STRINGSTREAM
    std::stringstream ss;
    // Redirect std::cout to a stringstream
    std::streambuf* backup_cout = std::cout.rdbuf ();
    std::cout.rdbuf (ss.rdbuf ());
    // Redirect stdout to a buffer
    char buf[1024] = "";
    int backup_stdout = dup (fileno (stdout));
    freopen ("/dev/null", "w", stdout);
    setbuf (stdout, buf);

    std::cout << "Redirected output:" << std::endl;
    printf_redirect<<<1,N>>> (d_A, d_B);
    cudaDeviceSynchronize ();

    // Add CUDA buffer to a stringstream
    ss << buf;

    // Write stringstream to file
    std::ofstream outFile;
    outFile.open (output_file);
    outFile << ss.str ();
    outFile.close ();

    /// RESET REDIRECTION
    // Redirect back to initial stdout
    fflush (stdout);
    setbuf (stdout, NULL);
    fclose (stdout);
    FILE *fp = fdopen (backup_stdout, "w");
    fclose (stdout);
    *stdout = *fp;
    // Redirect back to initial std::cout
    std::cout.rdbuf (backup_cout);

    std::cout << "std::cout - end" << std::endl;
    printf ("stdout - end\n");

    cudaMemcpy(h_B, d_B, size, cudaMemcpyDeviceToHost);

    cudaFree(d_A);
    cudaFree(d_B);
    free (h_A);
    free (h_B);
}

我使用以下问题来实现这一目标：

• 将 cout 和 stdout 都重定向到 C++ 中的字符串以进行单元测试
• 如何在 freopen(“out.txt”, “a”, stdout) 后将输出重定向回屏幕

运行程序，我们进入控制台：

std::cout - start
stdout - start
Output to stdout:
  0: Hello World!
std::cout - end
stdout - end

并在printf_redirect.log：

Redirected output:
  0: Hello World!
  1: Hello World!

题

有没有更简单的方法来实现这一目标？（例如隐藏的 CUDA 选项或简洁的 C/C++ 技巧）

请注意，最终解决方案将在实用程序类中结束，以使其在实际代码中不那么冗长。

Answer 1

设备端printf()会导致正在打印的线程隐式序列化，因此您可能不想在生产代码中使用它。

设备端printf()通过让内核将消息复制到预先分配的环形缓冲区来工作。在隐式或显式设备同步 (cudaDeviceSynchronize()) 时，CUDA 将缓冲区中的任何内容转储到stdout然后清除它。

您可以简单地实现您自己的设备printf()。它的性能可能不会比内置的差。唯一的缺点是您必须将环形缓冲区传递给内核并在内核返回后添加一个调用来处理它。

实现将是这样的：

• 创建一个缓冲区，为固定数量的printf()格式化字符串和相关的 32 位或 64 位参数留出空间。

• 创建一个设备函数，用于atomicInc()跟踪当前打印位置并获取格式化字符串和参数并将它们复制到当前位置。

• 将环形缓冲区传递给内核，然后内核将其与打印参数一起传递给设备函数。

• 创建一个主机函数，它接受环形缓冲区，通过主机端运行格式化字符串和参数sprintf()，并将结果传递给记录器。