有没有办法让 Node.JS 和 V8 自动矢量化简单的循环？

Question

我目前代表Not a典型机构担任SSIM.js和jest-image-snapshot的作者和贡献者。我正在执行的许多工作导致创建新算法来比较 Javascript 中的图像。在使用 AssemblyScript 和 WebAssembly 进行大量研究和测试后，我发现使用纯 JS 经常可以获得性能更高、更便​​携的解决方案，而不是使用这两种技术中的任何一种。然而，这只有在对生成的程序集进行广泛的代码审查并进行多次实验后才会发生。

我想了解的是是否有办法让 Node.JS/libV8 自动矢量化代码段。作为一个例子，我有一个两遍循环，它计算图像中每个像素的前缀和，水平然后垂直。跳过水平前缀和（为了使用纯汇编实现真正的性能改进而进行矢量化可能具有挑战性），垂直前缀和应该非常容易优化。下面是一个例子：

    for (let h = 0; h + 1 < height; ++h) {
      for (let w = 0; w < width; ++w) {
        let above = pSumArray[h * width + w];
        let current = pSumArray[(h + 1) * width + w];
        pSumArray[(h + 1) * width + w] = above + current;
      }
    }

这需要所有预先存在的水平前缀和计算，并在图像中添加相邻的行，一次一行，一直到最后。

汇编器输出如下所示：

0x11afd3a4adb1   1d1  c4a17b1044c10f vmovsd xmm0,[rcx+r8*8+0xf]
0x11afd3a4adb8   1d8  4c8bc2         REX.W movq r8,rdx
0x11afd3a4adbb   1db  4503c6         addl r8,r14
0x11afd3a4adbe   1de  0f80ce020000   jo 0x11afd3a4b092  <+0x4b2>
0x11afd3a4adc4   1e4  443bc7         cmpl r8,rdi
0x11afd3a4adc7   1e7  0f83d1020000   jnc 0x11afd3a4b09e  <+0x4be>
0x11afd3a4adcd   1ed  c4a17b104cc10f vmovsd xmm1,[rcx+r8*8+0xf]
0x11afd3a4add4   1f4  c5fb58c1       vaddsd xmm0,xmm0,xmm1
0x11afd3a4add8   1f8  c4a17b1144c10f vmovsd [rcx+r8*8+0xf],xmm0

如果仔细观察，您会发现它使用“sd”（单双）操作执行所有加载、存储和添加操作。这意味着它一次只能处理一个 double。可以在此处找到关于此的文档。

这在这个应用程序中是相关的，因为如果不是 16，宽度是 2 的倍数是相对确定的。 作为副作用，如果我们在一台只支持 SSE2 指令的机器上，我们可以一次执行两倍的加法,如果机器支持 AVX512，一次最多可以添加 8 个。尽管 node.js 和 libv8 似乎在运行时检测 CPU 方面做得不错，但我仍然没有找到一种方法让它自动矢量化这样的循环。我尝试了一些策略，包括特定的条件（例如宽度可被 8 整除）并将它们与去循环（例如array[0] =above0+current0 array[1]=above1+current1 array[2]=above2+current2...）相结合，但没有一个产生任何成功的结果。

任何人可以为我提供有关此主题的任何帮助将不胜感激。

非常感谢，

担

Answer 1

V8 目前不进行任何自动矢量化。（来源：我是 V8 开发人员。）这将来可能会改变，也可能不会改变；人们时不时地在考虑一些想法，但我不知道有什么具体的计划。

Wasm-SIMD 即将全面上市（目前处于“原始试用”实验性有限发布阶段），这将允许您通过 WebAssembly 使用 SIMD 指令。（Wasm 的级别比 JavaScript 低得多，这意味着它通常可以让您更好地控制将生成的指令序列。特别选择了 Wasm-SIMD 指令集，以便它可以很好地映射到常见硬件指令。）