Nvidia CUDA Profiler 的时间线包含很多大的缺口

Question

我正在尝试使用 Nivida Profiler 分析我的代码，但我在时间线中出现了奇怪的差距，如下所示：

注意：间隙边缘的两个内核都是 CudaMemCpyAsync（主机到设备）

我在 Ubuntu 14.04 上运行最新版本的 CUDA、8.0.61 和最新的 Nvidia 显示驱动程序。

Intel 集成显卡用于显示器而不是 Nvidia。因此，Nvidia 显卡只运行代码，而不运行其他任何东西。

我也启用了 CPU Profiling 来检查这些差距，但没有显示任何内容！

此外，没有启用调试选项（-G 或 -g），这是一个“发布版本”

我的笔记本电脑规格：

• 英特尔酷睿 i7 4720HQ
• 英伟达 GTX 960m
• 16GB DDR3 内存
• 1 TB 硬盘

有没有办法追踪这些空时隙中发生的事情？

谢谢，

Answer 1

恐怕没有自动方法，但是您可以在代码中添加自定义跟踪以查找发生了什么：

为此，您可以使用 NVTX。

按照一些教程或文档的链接。

这些分析漏洞可能是由于数据加载、主机在内核执行之间完成的内存分配/初始化造成的。