启用优化的奇怪行为

Question

我有这个小代码片段(这是我遇到的问题的最小工作示例):

#include <stdio.h>
#include <stdlib.h>
#include <string.h>

void xorBuffer(unsigned char* dst, unsigned char* src, int len)
{
    while (len != 0)
    {
        *dst ^= *src;
        dst++;
        src++;
        len--;
    }
}

int main()
{
    unsigned char* a = malloc(32);
    unsigned char* b = malloc(32);
    int t;

    memset(a, 0xAA, 32);
    memset(b, 0xBB, 32);

    xorBuffer(a, b, 32);

    printf("result = ");
    for (t = 0; t < 32; t++) printf("%.2x", a[t]);
    printf("\n");

    return 0;
}

这段代码应该执行两个32字节的内存缓冲区(概念上,应该这样做a = a ^ b).由于0xAA ^ 0xBB = 0x11,它应该打印"11"三十二次.

我的问题是,当我在MinGW-GCC(Windows)下编译它时,这在调试模式下完美地工作(没有优化),但是当启用从-O3开始的优化时,在xorBuffer循环的中途与SIGILL崩溃.此外,如果我在违规循环中放置一个printf,它将再次完美地工作.我怀疑堆栈损坏,但我不知道我在这里做错了什么.

尝试使用启用了优化的GDB进行调试是一个失败的原因,因为所有GDB都会向我显示每个变量的"变量优化"(当然,如果我尝试将变量打印出来,它会突然起作用).

有人知道这里发生了什么事吗？我花了很长时间思考这个问题,我真的需要正确地修复它才能继续前进.我的猜测是我缺少一些基本的C指针知识,但对我来说代码看起来是正确的.它可以来自缓冲区增量,但据我所知sizeof(unsigned char) == 1,所以它应该逐个遍历每个字节.

对于它的价值,即使在我的Linux机器上对GCC进行优化,代码也能正常工作.

那么......这里的交易是什么？谢谢!

根据要求,整个程序的汇编输出:

使用-O2:clicky

使用-O3:clicky

我在GCC 4.6.2上观察到这种行为(与MinGW一起运行)

Answer 1

从我的评论:

确保编译器具有有关目标体系结构的正确信息.从读取-O3输出看起来,编译器正在为您设置SIMD优化,它实际上通过使用向量指令(例如movdqa)使代码更加平行.如果目标处理器与编译器发出代码的100%不匹配,则最终可能会出现非法指令.

Answer 2

我将此添加为Unwind答案的延伸(我接受它,因为它让我走上了正确的轨道).

在筛选优化代码后,我注意到了AVX指令.起初,考虑到我的处理器支持AVX指令集,我认为它不会引起问题.然而,事实证明有两个不同的AVX版本:AVX1和AVX2.而且,虽然我的处理器只支持AVX1,但只要处理器支持两个版本中的任何一个版本,gcc就会不加区分地使用AVX2操作码(llvm犯了同样的错误,有bug报告).据我所知,这是错误的操作和编译器错误.

结果是AVX1系统上的AVX2代码,这显然会导致非法指令.它解释了很多东西,从小于32字节输入的代码(由于256位寄存器宽度)到我的Linux机器上的代码,这恰好是CPU支持仅限于SSE3的虚拟机.

修复是要么禁用-O3又返回到-O2,其中gcc不会求助于最硬核的SIMD指令来优化简单代码,或者使用volatile关键字来强制它通过每个字节的缓冲区字节,辛苦地,像这样:

*(unsigned char volatile *)dst ^= *(unsigned char volatile *)src;

这当然非常慢,可能比仅使用-O2(忽略整个程序的反应)更糟糕,但它可以通过int而不是填充来遍历缓冲区int,这就足够了速度.

另一个很好的解决方法是升级到没有此bug的gcc版本(此版本可能尚不存在,我还没有检查过).

编辑:最终修复是在GCC上抛出-mno-avx标志,从而禁用任何和所有AVX操作码,完全否定了没有代码修改的错误(并且一旦修补的编译器版本可用就可以轻松删除).

多么糟糕的编译错误.