GPU上的分支预测

Question

我有一个关于GPU中分支预测的问题.据我所知,在GPU中,它们通过分支进行预测.

例如,我有一个这样的代码:

if (C)
 A
else
 B

因此,如果A需要40个周期而B需要50个周期来完成执行,如果假设一个warp,A和B都被执行,那么完成这个分支需要总共90个周期吗？或者它们是否重叠A和B,即,当执行A的某些指令时,等待内存请求,然后执行B的某些指令,然后等待内存,依此类推？谢谢

Answer 1

到目前为止,所有发布的支持CUDA的架构都像SIMD机器一样运行.当warp中存在分支差异时,两个代码路径都由warp中的所有线程执行,而不跟随活动路径的线程执行NOP的功能等价物(我想我记得有条件执行)标志附加到warp中的每个线程,允许非执行线程被屏蔽掉).

所以在你的例子中,90个周期的答案可能是比替代方案更接近实际发生的事情.