编译器嵌套循环优化,用于顺序内存访问.

Question

我在矩阵乘法基准测试中遇到了一个奇怪的性能问题(来自MOSBENCH套件的Metis中的matrix_mult ).基准进行了优化,瓦片中的数据,使得有源工作集是12KB(32×32整数3个砖)和将装配到L1高速缓存.长话短说,交换内部两个大多数循环在某些阵列输入大小(4096,8192)上的性能差异几乎是4倍,而在其他阵列输入大小上差异大约为30%.问题基本上归结为顺序访问元素而不是步幅模式.我认为某些数组大小创建了一个糟糕的步幅访问,产生了很多缓存线冲突.当从2路关联L1变为8路关联L1时,性能差异明显减小.

我的问题是为什么gcc不优化循环排序以最大化顺序内存访问？

下面是问题的简化版本(请注意,性能时间高度依赖于L1配置.下面显示的数字来自2.3 GHZ AMD系统,其中64K L1双向关联使用-O3编译).

N = ARRAY_SIZE // 1024
int* mat_A = (int*)malloc(N*N*sizeof(int));
int* mat_B = (int*)malloc(N*N*sizeof(int));
int* mat_C = (int*)malloc(N*N*sizeof(int));

// Elements of mat_B are accessed in a stride pattern of length N
// This takes 800 msec  
for (int t = 0; t < 1000; t++) 
   for (int a = 0; a < 32; a++) 
      for (int b = 0; b < 32; b++)
         for (int c = 0; c < 32; c++) 
            mat_C[N*a+b] += mat_A[N*a+c] * mat_B[N*c+b];

// Inner two loops are swapped
// Elements are now accessed sequentially in inner loop
// This takes 172 msec  
for (int t = 0; t < 1000; t++) 
   for (int a = 0; a < 32; a++) 
      for (int c = 0; c < 32; c++) 
         for (int b = 0; b < 32; b++)
            mat_C[N*a+b] += mat_A[N*a+c] * mat_B[N*c+b];

Answer 1

1. gcc 可能无法证明指针不重叠。如果您可以使用非标准扩展，您可以尝试使用__restrict。
2. gcc 没有充分利用您的体系结构来避免为每个处理器重新编译的必要性。使用选项-march以及适合您的系统的值可能会有所帮助。