并行计算内存访问瓶颈

Question

以下算法在我的程序中迭代运行.没有下面指出的两条线,运行它只需要1.5倍.这对我来说非常令人惊讶.然而,更糟糕的是,使用这两行运行会使完成运行增加4.4倍(6.6X不运行整个算法).另外,它导致我的程序无法扩展到超过~8个核心.事实上,当在单核上运行时,这两条线只会将时间增加到1.7倍,考虑到它们的作用,这仍然太高.我已经排除它与我程序中其他地方的修改数据的影响有关.

所以我想知道是什么原因引起的.可能与缓存有关吗？

void NetClass::Age_Increment(vector <synapse> & synapses, int k)  
{
    int size = synapses.size();
    int target = -1;

    if(k > -1)
    {
        for(int q=0, x=0 ; q < size; q++)
        {
            if(synapses[q].active)
                synapses[q].age++;
            else
            {
                if(x==k)target=q;
                x++;
            }
        }
        /////////////////////////////////////Causing Bottleneck/////////////
        synapses[target].active = true;
        synapses[target].weight = .04 + (float (rand_r(seedp) % 17) / 100);
        ////////////////////////////////////////////////////////////////////
    }

    else
    {
        for(int q=0 ; q < size; q++)
            if(synapses[q].active)
                synapses[q].age++;
    }
}

更新:将两个问题行更改为:

bool x = true;
float y = .04 + (float (rand_r(seedp) % 17) / 100);

删除问题.建议可能与内存访问有关吗？

Answer 1

每个线程修改内存读取的所有其他读取:

for(int q=0, x=0 ; q < size; q++)
   if(synapses[q].active) ... // ALL threads read EVERY synapse.active
...
synapses[target].active = true; // EVERY thread writes at leas one synapse.active

这些来自不同线程的同一地址的读写会导致大量的缓存失效,这将导致您描述的症状.解决方案是避免在循环内部写入,并且将写入移动到局部变量的事实再次证明问题是缓存失效.请注意,即使您不会将sane字段写为read(active),您也可能会因为我怀疑的错误共享而看到相同的症状active,age并weight共享一个缓存行.

有关更多详细信息,请参阅CPU缓存和您关心的原因

最后要注意的是,对active和的赋值weight,更不用说age++增量似乎都非常不安全.此类更新的互锁操作或锁定/互斥保护是强制性的.