NEON ASM代码运行速度比C代码慢得多？

Question

我正在尝试使用NEON在iPhone ARM上针对特定问题实现Gauss-Newton优化.下面的第一个函数是我原来的C函数.第二个是我写的NEON asm代码.我每次运行100,000次,NEON版本比C版本长7-8倍.我认为加载(vld1.32)是大部分时间.我通过删除一些指令进行了实验.

有没有人对这个问题有任何见解？谢谢!

template<class T>
inline void GaussNewtonOperationJtr8x8(T Jtr[8], const T J[8], T residual)
{
    Jtr[0] -= J[0]*residual;
    Jtr[1] -= J[1]*residual;
    Jtr[2] -= J[2]*residual;
    Jtr[3] -= J[3]*residual;
    Jtr[4] -= J[4]*residual;
    Jtr[5] -= J[5]*residual;
    Jtr[6] -= J[6]*residual;
    Jtr[7] -= J[7]*residual;    
}

inline void GaussNewtonOperationJtr8x8_NEON(NFloat Jtr[8], const NFloat J[8], NFloat residual)
{
    __asm__ volatile (
                      // load Jtr into registers
                      "vld1.32   {d0-d3}, [%0]\n\t"
                      // load J into registers
                      "vld1.32   {d4-d7}, [%1]\n\t"
                      // load residual in register
                      "vmov.f32  s16, %2\n\t"
                      // Jtr -= J*residual
                      "vmls.f32  q0, q2, d8[0]\n\t"
                      "vmls.f32  q1, q3, d8[0]\n\t"
                      // store result
                      "vst1.32   {d0-d3}, [%0]\n\t"
                      // output
                      :
                      // input
                      : "r"(Jtr), "r"(J), "r"(residual)
                      // registers
                      : "d0", "d1", "d2", "d3", "d4", "d5", "d6", "d7", "d8", "d9", "d10", "d11", "d12", "d13", "d14"
                      );
}

Answer 1

1. 不要使用d8-d15.它们必须在使用前保存在堆叠上.然后恢复.编译器将执行此操作的指令,浪费宝贵的周期.
2. 在Jtr之前加载J. Jtr预计将在比J更晚的管道阶段.
3. 使用VLDMIA/VSTMIA代替VLD/VST.VLDMIA/VSTMIA速度更快,并且具有管道优势.
4. 使用向量 - 向量乘法而不是向量 - 标量乘法.
5. 如果创建循环版本,请将pld放在开头并展开循环,以便每次迭代从每个指针读取64字节.

除了我上面提到的那些错误 - 这对NEON新手来说很典型 - 你的方法非常好.您在vmls中找到了最合适的指令.

做得好.

{

__asm__ volatile (
    // load residual in register
    "vdup.32  q12, %2\n\t"
    // load J into registers
    "vldmia   %1, {q10-q11}\n\t"
     // load Jtr into registers
    "vldmia   %0, {q8-q9}\n\t"
    // Jtr -= J*residual
    "vmls.f32  q8, q10, q12\n\t"
    "vmls.f32  q9, q11, q12\n\t"
    // store result
    "vstmia   %0, {q8-q9}\n\t"
    // output
    :
    // input
    : "r"(Jtr), "r"(J), "r"(residual)
    // registers
    : "q8", "q9", "q10", "q11", "q12"
);