numpy通过ctypes调用sse2

Question

简而言之,我试图从python调用一个共享库,更具体地说,从numpy调用.共享库使用sse2指令在C中实现.启用优化,即使用-O2或-O1构建库,当通过ctypes调用共享库时,我面临着奇怪的段错误.禁用优化(-O0),一切都按预期进行,就像直接将库链接到c程序(优化与否)一样.附上你发现一个剪辑,展示了我系统上描绘的行为.启用优化后,gdb将在emmintrin.h:113中的__builtin_ia32_loadupd(__P)中报告段错误.__P的值报告为优化输出.

test.c的:

#include <emmintrin.h>
#include <complex.h>
void test(const int m, const double* x, double complex* y) {

    int i;
    __m128d _f, _x, _b;
    double complex f __attribute__( (aligned(16)) );
    double complex b __attribute__( (aligned(16)) );
    __m128d* _p;

    b = 1;
    _b = _mm_loadu_pd( (double *) &b );

    _p = (__m128d*) y;

    for(i=0; i<m; ++i) {
        f = cexp(-I*x[i]);
        _f = _mm_loadu_pd( (double *) &f );
        _x = _mm_loadu_pd( (double *) &x[i] );      
        _f = _mm_shuffle_pd(_f, _f, 1);
        *_p = _mm_add_pd(*_p, _f);
        *_p = _mm_add_pd(*_p, _x); 
        *_p = _mm_mul_pd(*_p,_b);
        _p++;
    }
    return;
}

编译器标志:gcc -o libtest.so -shared -std = c99 -msse2 -fPIC -O2 -g -lm test.c

test.py:

import numpy as np
import os

def zerovec_aligned(nr, dtype=np.float64, boundary=16):
    '''Create an aligned array of zeros.
    '''
    size = nr * np.dtype(dtype).itemsize
    tmp = np.zeros(size + boundary, dtype=np.uint8)
    address = tmp.__array_interface__['data'][0]
    offset = boundary - address % boundary
    return tmp[offset:offset + size].view(dtype=dtype)


lib = np.ctypeslib.load_library('libtest', '.' )
lib.test.restype = None
lib.test.argtypes = [np.ctypeslib.ctypes.c_int,
                     np.ctypeslib.ndpointer(np.float64, flags=('C', 'A') ),
                     np.ctypeslib.ndpointer(np.complex128, flags=('C', 'A', 'W') )]


n = 13
y = zerovec_aligned(n, dtype=np.complex128)
x = np.ones(n, dtype=np.float64)
# x = zerovec_aligned(n, dtype=np.float64)
# x[:] = 1.

lib.test(n,x,y)

从C调用测试按预期工作:

call_from_c.c:

#include <stdio.h>
#include <complex.h>
#include <stdlib.h>
#include <emmintrin.h>

void test(const int m, const double* x, double complex* y);

int main() {

    int i; 
    const int n = 11;
    double complex *y = (double complex*) _mm_malloc(n*sizeof(double complex), 16);
    double *x = (double *) malloc(n*sizeof(double));
    for(i=0; i<n; ++i) {
        x[i] = 1;
        y[i] = 0;
    }

    test(n, x, y);
    for(i=0; i<n; ++i)
            printf("[%f %f]\n", creal(y[i]), cimag(y[i]));

    return 1;

}

编译并调用:
gcc -std = c99 -otestc -msse2 -L.-ltest call_from_c.c
export LD_LIBRARY_PATH = $ {LD_LIBRARY_PATH}:.
./testc
...有效.

我的系统:

• Ubuntu Linux i686 2.6.31-22-通用
• 编译器:gcc(Ubuntu 4.4.1-4ubuntu9)
• Python:Python 2.6.4(r264:75706,2009年12月7日,18:45:15)[GCC 4.4.1]
• Numpy:1.4.0

我已经采取了规定(参见python代码)y对齐并且x的对齐无关紧要(我认为;明确对齐x并不能解决问题).

另请注意,在加载b和f时,我使用_mm_loadu_pd而不是_mm_load_pd.对于仅C版本_mm_load_pd工作(如预期的那样).但是,当使用_mm_load_pd通过ctypes调用函数时,始终是segfaults(独立于优化).

我已经尝试了好几天来解决这个问题而没有成功......我正在濒临监视器死亡.欢迎任何投入.丹尼尔

Answer 1

您是否尝试升级到 Numpy 1.5.0b2。只需运行以下命令（但要小心它可能会破坏其他东西（您将必须重新编译所有耐热玻璃）：

sudo easy_install -U numpy

当我尝试使用 H5PY 时，我也遇到了与 ctypes 类似的问题（我必须重新编译 .deb 才能使用最新版本的 numpy），而且最新升级修复的 weave 也存在重大问题。