GPU 的延迟是多少？

Question

我可以找到 CPU 核心与其缓存、主内存等之间以 ns 或 CPU 周期为单位的延迟。

但似乎很难找到有关现代 GPU 的类似信息。

有谁知道 GPU 的延迟，特别是现代 nvidia GPU（GF110 或更高版本）与其内存之间的延迟，谢谢。

GPU 内存确实具有更大的带宽，但它们的延迟又如何呢？

我听说 GPU 的延迟与 CPU 的延迟一样高，因此基本上使更大的带宽对于许多通用计算任务来说毫无意义，我只需要确认这一点。

Answer 1

由于供应商没有透露所有架构细节，研究人员使用逆向工程来揭开 GPU 架构的神秘面纱。请参阅这篇论文Demystifying GPU microarchitecture through microbenchmarking以及引用该论文的其他论文（请注意，这不是我的论文）。我在下图中复制了他们的发现。