控制SIMT和SIMD中的流量偏差

Question

我正在读这本书,深入研究CUDA的概念.其中一章介绍了SIMT的概念

SIMT中控制流分歧的选项还简化了程序员与SSE相比使用额外指令来处理控制流的要求.

我知道这个陈述是基于SSE在SIMD实现技术上工作而CUDA线程在SIMT原理上工作的事实,但是任何人都可以使用一些例子详细说明/解释这句话.提前致谢.

Answer 1

使用SIMD,如果你有一个例程,其中一些元素需要与其他元素不同地处理,那么你需要明确地处理屏蔽操作,以便它们仅应用于正确的元素.使用CUDA的SIMT架构,您可以在每个线程上获得控制流的错觉,因此您不需要明确屏蔽操作 - 当然,这仍然在"引擎盖下"发生,但是负担从程序员中解脱出来.

示例:假设您要将所有负数元素设置为零.在CUDA中:

if (X[tid] < 0)
    X[tid] = 0;    // NB: CUDA core steps through this instruction but only executes
                   //     it if the preceding condition was true

在SIMD(SSE)中:

__m128 mask = _mm_cmpge_ps(X, _mm_set1_ps(0));  // generate mask for all elements >= 0
X = _mm_and_ps(X, mask);                        // clear all elements which are < 0