如何选择AVX比较谓词变体

Bra*_*ram 35 simd avx

在高级向量扩展(AVX)中,比较指令如_m256_cmp_ps,最后一个参数是比较谓词.谓词的选择压倒了我.它们似乎是类型,排序,信号的三重奏.例如_CMP_LE_OS是'小于或等于,有序,信令.

对于初学者来说,是否存在选择信令或非信令的性能原因,同样,有序或无序的速度比另一个更快?

什么'非信令'甚至意味着什么?我根本无法在文档中找到这个.任何关于何时选择什么的经验法则?

以下是avxintrin.h的谓词选择:

/* Compare */
#define _CMP_EQ_OQ    0x00 /* Equal (ordered, non-signaling)  */
#define _CMP_LT_OS    0x01 /* Less-than (ordered, signaling)  */
#define _CMP_LE_OS    0x02 /* Less-than-or-equal (ordered, signaling)  */
#define _CMP_UNORD_Q  0x03 /* Unordered (non-signaling)  */
#define _CMP_NEQ_UQ   0x04 /* Not-equal (unordered, non-signaling)  */
#define _CMP_NLT_US   0x05 /* Not-less-than (unordered, signaling)  */
#define _CMP_NLE_US   0x06 /* Not-less-than-or-equal (unordered, signaling)  */
#define _CMP_ORD_Q    0x07 /* Ordered (nonsignaling)   */
#define _CMP_EQ_UQ    0x08 /* Equal (unordered, non-signaling)  */
#define _CMP_NGE_US   0x09 /* Not-greater-than-or-equal (unord, signaling)  */
#define _CMP_NGT_US   0x0a /* Not-greater-than (unordered, signaling)  */
#define _CMP_FALSE_OQ 0x0b /* False (ordered, non-signaling)  */
#define _CMP_NEQ_OQ   0x0c /* Not-equal (ordered, non-signaling)  */
#define _CMP_GE_OS    0x0d /* Greater-than-or-equal (ordered, signaling)  */
#define _CMP_GT_OS    0x0e /* Greater-than (ordered, signaling)  */
#define _CMP_TRUE_UQ  0x0f /* True (unordered, non-signaling)  */
#define _CMP_EQ_OS    0x10 /* Equal (ordered, signaling)  */
#define _CMP_LT_OQ    0x11 /* Less-than (ordered, non-signaling)  */
#define _CMP_LE_OQ    0x12 /* Less-than-or-equal (ordered, non-signaling)  */
#define _CMP_UNORD_S  0x13 /* Unordered (signaling)  */
#define _CMP_NEQ_US   0x14 /* Not-equal (unordered, signaling)  */
#define _CMP_NLT_UQ   0x15 /* Not-less-than (unordered, non-signaling)  */
#define _CMP_NLE_UQ   0x16 /* Not-less-than-or-equal (unord, non-signaling)  */
#define _CMP_ORD_S    0x17 /* Ordered (signaling)  */
#define _CMP_EQ_US    0x18 /* Equal (unordered, signaling)  */
#define _CMP_NGE_UQ   0x19 /* Not-greater-than-or-equal (unord, non-sign)  */
#define _CMP_NGT_UQ   0x1a /* Not-greater-than (unordered, non-signaling)  */
#define _CMP_FALSE_OS 0x1b /* False (ordered, signaling)  */
#define _CMP_NEQ_OS   0x1c /* Not-equal (ordered, signaling)  */
#define _CMP_GE_OQ    0x1d /* Greater-than-or-equal (ordered, non-signaling)  */
#define _CMP_GT_OQ    0x1e /* Greater-than (ordered, non-signaling)  */
#define _CMP_TRUE_US  0x1f /* True (unordered, signaling)  */
Run Code Online (Sandbox Code Playgroud)

小智 30

Ordered与Unordered有关,如果其中一个操作数包含NaN,则比较是否为真(请参阅有序/无序比较是什么意思?).信令(S)与非信令(Q表示安静?)将确定如果操作数包含NaN则是否引发异常.

从性能的角度来看,这些都应该是相同的(假设当然没有例外).如果你想在有NaN时收到警报,那么你需要信号.对于有序与无序,这一切都取决于你想如何处理NaNs.


Dav*_*son 14

当任一操作数为 NaN 时,有序无序决定结果值。

falseNaN 操作数的有序比较返回。

  • _CMP_EQ_OQ1.01.0给出true (香草平等)。
  • _CMP_EQ_OQNaN1.0给出false.
  • _CMP_EQ_OQ1.0NaN给出false.
  • _CMP_EQ_OQNaNNaN给出false.

trueNaN 操作数的无序比较返回。

  • _CMP_EQ_UQ1.01.0给出true(香草平等)。
  • _CMP_EQ_UQNaN1.0给出true.
  • _CMP_EQ_UQ1.0NaN给出true.
  • _CMP_EQ_UQNaNNaN给出true.

信令非信令之间的差异仅影响 MXCSR 的值。要观察效果,​​您需要清除 MXCSR,执行一个或多个比较,然后读取 MXCSR(感谢 Peter Cordes 澄清这一点!)。

枚举值的顺序非常混乱。它有助于将它们放在桌子上......

比较 有序(非信令) 无序(非信令)
a < b _CMP_LT_OQ _CMP_NGE_UQ
a <= b _CMP_LE_OQ _CMP_NGT_UQ
a == b _CMP_EQ_OQ _CMP_EQ_UQ
一个!= b _CMP_NEQ_OQ _CMP_NEQ_UQ
a >= b _CMP_GE_OQ _CMP_NLT_UQ
a > b _CMP_GT_OQ _CMP_NLE_UQ
真的 _CMP_ORD_Q _CMP_TRUE_UQ(无用)
错误的 _CMP_FALSE_OQ(无用) _CMP_UNORD_Q

使用 MXCSR“信令”:

比较 有序(信令) 无序(信令)
a < b _CMP_LT_OS _CMP_NGE_US
a <= b _CMP_LE_OS _CMP_NGT_US
a == b _CMP_EQ_OS _CMP_EQ_US
一个!= b _CMP_NEQ_OS _CMP_NEQ_美国
a >= b _CMP_GE_OS _CMP_NLT_US
a > b _CMP_GT_OS _CMP_NLE_US
真的 _CMP_ORD_S _CMP_TRUE_US(无用)
错误的 _CMP_FALSE_OS(无用) _CMP_UNORD_S

枚举值的顺序可以解释为:

  • 前四个操作是规范的 ( EQ, LT, LE, UNORD)。请注意,如果0x000x03值为LE/UNORDUNORD/ LE,则可以将四个规范操作视为两个单独位的组合,但这对于它们的实际顺序是不可能的。

  • 其余的操作是前四个操作的转换。

  • 0x04位精确地反转结果值,这也有效地切换了有序与无序。例如,LT_O变成NLT_U,它类似于GE,但请参阅无序命名规则。

  • 0x08位切换有序与无序(不更改任何其他内容)。

  • 设置0x040x08位会否定数值操作数的结果,同时保留 NaN 操作数的相同排序行为。例如,LT_O变成GE_O

  • 请注意,当比较是无序的(即设置了0x04or之一0x08)时,将使用否定名称:NGE代替LTNGT代替LENLT代替GENLE代替GT; 然而,这两个EQNEQ需要同时定义有序和无序的变体,所以这些名字只有在改变0x04否定转型,而不是0x08orderedness-切换转变。

  • FALSE/TRUE都大多无用0x08的变换UNORD/ ORD,总是返回相同的值。例如,UNORD( 0x03)false如果两个操作数都是数字,或者true其中一个是NaN; 添加0x08,我们得到FALSE( 0x0b),它切换了NaN操作数的行为,导致它在false两种情况下都返回。

    有趣的事实:TRUE操作并不总是完全没用。在 AVX2 之前,它是将 YMM 寄存器设置为全 1 的最紧凑的机制。有关详细信息,请参阅https://godbolt.org/z/Yb5TjP(感谢 Peter Cordes)。

  • 0x10位切换信号与否。请注意,规范操作LELT正在发信号,而EQUNORD不是,因此设置该0x10位会从LE/LTops 中删除信号并将其添加到EQ/UNORDops。因为这显然是明智的,而且一点也不令人困惑。

  • 顺便说一句,“_CMP_TRUE_UQ”不是 100% 无用,只有 98% - 这是使用 AVX1 而不是 AVX2 将 YMM 寄存器设置为全 1 的最紧凑方法,因此您没有“vpcmpeqd ymm15, ymm0,ymm0”。如果您使用“_mm256_set1_epi8(-1)”(对于 FP 向量来说很少需要,几乎是人为/不切实际的),一些编译器会在以 SandyBridge 为目标(没有“-mavx2”的“-mavx”)时使用它。它确实有一个错误的依赖关系,因此您当然会在可用时使用 AVX2 整数。是的,错误谓词是没有用的,“vxorps xmm15, xmm0,xm​​m0”是将 ymm15 归零的更有效方法。 (3认同)
  • 是的,Agner Fog 的微体系结构指南确认了“pcmpeq*”在所有 CPU(除了 silvermont)上都具有深度破坏性,尽管它确实需要一个执行单元来写入这些 CPU(甚至在 [异或归零被消除] 的 Sandybridge 系列上) (/sf/ask/2356663221/ assembly-xor-mov-or-and)) 。(您可以通过注意到即使使用相同的寄存器,吞吐量也优于 1 来验证这一点。)另请参阅[将 _m256 值设置为所有 1 位的最快方法](/sf/answers/2623021131/ ) (2认同)