快速和通用的lambda函数

Question

动机

我创建了一个头文件,它将Matlab的mex功能包装在c ++ 11类中; 特别是对于MxNxC图像.我创建的两个函数是forEach,它遍历图像中的每个像素,还有一个forKernel,它在图像中给出了一个内核和像素,在该像素周围迭代内核,处理各种漂亮的样板式索引数学.

这个想法是人们可以像这样编程滑动窗口:

image.forEach([](Image &image, size_t row, size_t col) {
  //kr and lc specify which pixel is the center of the kernel
  image.forKernel<double>(row, col, kernel, kr, kc, [](Image &image, double w, size_t row, size_t col) {
    // w is the weight/coefficient of the kernel, row/col are the corresponding coordinates in the image.
    // process ...
  });
});

问题

这提供了一个很好的方法

• 提高可读性:两个函数调用比相应的4个for循环要清晰得多,
• 保持灵活性:lambda函数允许您通过值或引用来定义所有类型的变量,这些变量对于forEach/forKernel的实现者是不可见的,并且
• 不幸的是,增加执行时间:这比使用for循环慢了大约8倍.

当然,后一点是问题所在.我希望g ++能够优化lambda函数并内联所有代码.这不会发生.因此,我在1D数据上创建了一个最小的工作示例:

#include <iostream>
#include <functional>

struct Data {
  size_t d_size;
  double *d_data;
  Data(size_t size) : d_size(size), d_data(new double[size]) {}
  ~Data() { delete[] d_data; }
  double &operator[](size_t i) { return d_data[i]; }


  inline void forEach(std::function<void(Data &, size_t)> f) {
    for (size_t index = 0; index != d_size; ++index)
      f(*this, index);
  }
};



int main() {
  Data im(50000000);
  im.forEach([](Data &im, size_t i) {
    im[i] = static_cast<double>(i);
  });

  double sum = 0;
  im.forEach([&sum](Data &im, size_t i) {
    sum += im[i];
  });

  std::cout << sum << '\n';
}

来源:http://ideone.com/hviTwx

我猜测编译器无法为每个lambda函数编译forEach代码,因为lambda函数不是模板变量.好处是可以编译一次并使用不同的lambda函数更频繁地链接到它,但不好的是它很慢.

此外,动机中讨论的情况已经包含数据类型的模板(double,int,...),因此无论如何都要推翻"好事".

实现前一个的快速方法是这样的:

#include <iostream>
#include <functional>

struct Data {
  size_t d_size;
  double *d_data;
  Data(size_t size) : d_size(size), d_data(new double[size]) {}
  ~Data() { delete[] d_data; }
  double &operator[](size_t i) { return d_data[i]; }
};



int main() {
  size_t len = 50000000;
  Data im(len);
  for (size_t index = 0; index != len; ++index)
    im[index] = static_cast<double>(index);

  double sum = 0;
  for (size_t index = 0; index != len; ++index)
    sum += im[index];

  std::cout << sum << '\n';
}

来源:http://ideone.com/UajMMz

它大约快8倍,但也不太可读,特别是当我们考虑更复杂的结构,如带有内核的图像时.

题

有没有办法提供lambda函数作为模板参数,以便为每个调用编译forEach,并为lambda函数的每个特定实例进行优化？lambda函数能否以某种方式内联,因为lambda函数通常不是递归的,这应该是微不足道的,但语法是什么？

我发现了一些相关的帖子:

• 为什么C++ lambda在多次调用时比普通函数慢？
• 理解C++ 11中lambda函数的开销
• C++ 0x Lambda开销

但是他们没有以最小的工作示例的形式给出解决方案,并且他们没有讨论内联lambda函数的可能性.我的问题的答案应该这样做:更改Data.forEach成员函数,并调用尽可能快/允许尽可能多的运行时优化(不是在运行时优化,但在编译时减少运行时)可能.

关于forEveR的建议

感谢您创建该修复程序,这是一个巨大的改进,但仍然大约2倍慢:

• test0.cc:http://ideone.com/hviTwx
• test1.cc:http://ideone.com/UajMMz
• test2.cc:http://ideone.com/8kR3Mw

结果:

herbert@machine ~ $ g++ -std=c++11 -Wall test0.cc -o test0
herbert@machine ~ $ g++ -std=c++11 -Wall test1.cc -o test1
herbert@machine ~ $ g++ -std=c++11 -Wall test2.cc -o test2
herbert@machine ~ $ time ./test0
1.25e+15

real    0m2.563s
user    0m2.541s
sys     0m0.024s
herbert@machine ~ $ time ./test1
1.25e+15

real    0m0.346s
user    0m0.320s
sys     0m0.026s
herbert@machine ~ $ time ./test2
1.25e+15

real    0m0.601s
user    0m0.575s
sys     0m0.026s
herbert@machine ~ $ 

我用-O2重新运行代码,这解决了问题.test1和test2的运行时间现在非常相似.谢谢@stijn和@forEveR.

herbert@machine ~ $ g++ -std=c++11 -Wall -O2 test0.cc -o test0
herbert@machine ~ $ g++ -std=c++11 -Wall -O2 test1.cc -o test1
herbert@machine ~ $ g++ -std=c++11 -Wall -O2 test2.cc -o test2

herbert@machine ~ $ time ./test0
1.25e+15

real    0m0.256s
user    0m0.229s
sys 0m0.028s
herbert@machine ~ $ time ./test1
1.25e+15

real    0m0.111s
user    0m0.078s
sys 0m0.033s
herbert@machine ~ $ time ./test2
1.25e+15

real    0m0.108s
user    0m0.076s
sys 0m0.032s
herbert@machine ~ $ 

Answer 1

问题是,您使用std::function,实际使用type-erasure和虚拟调用.您可以简单地使用模板参数,而不是std::function.由于n3376为5.1.2/5,因此将内联调用lambda函数

lambda表达式的闭包类型有一个公共内联函数调用操作符(13.5.4),其参数和返回类型分别由lambda-expression的parameter-declaration-clause和trailing-return-type描述.

所以,只需简单地写

  template<typename Function>
  inline void forEach(Function f) {
    for (size_t index = 0; index != d_size; ++index)
      f(*this, index);
  }

实例