并发与并行 - 特别是在C++中

Bab*_*ham 4 c++ parallel-processing concurrency c++-standard-library

我理解两者之间的基本区别,我经常在程序中使用std :: async,这给了我并发性.

是否有任何可靠/值得注意的库可以在C++中提供并行性?(我知道这可能是C++的一个特色17).如果是这样,您对它们的体验是什么?

谢谢!芭芭拉

Rob*_*ost 5

线程构建块(TBB)是一个用于任务并行的模板化C++库.该库包含专门用于任务并行的各种算法和数据结构.我使用parallel_for和parallel_pipeline成功地大大加快了计算速度.通过一些额外的编码,TBB的parallel_for可以采用适合并行执行的串行for循环,并使其执行(参见此处的示例).TBB的parallel_pipeline能够执行一系列相关任务,每个任务都可以并行或串行执行(参见此处的示例).网上有更多的例子,特别是在software.intel.com和stackoverflow(见这里).

OpenMP是一种用于线程并行的API,主要通过编译器指令访问.虽然,我更喜欢使用TBB提供的更丰富的功能集,但OpenMP可以快速测试并行算法和代码(只需添加一个编译指示并设置一些构建设置).一旦经过测试和实验,我发现将OpenMP的某些用途转换为TBB可以相当容易地完成.这并不是说OpenMP不适用于严肃的编码.实际上,可能存在一种情况,其中人们更喜欢OpenMP而不是TBB(一种是因为它主要依赖于编译指示,切换到串行执行可能比使用TBB更容易.).在本次讨论中可以找到许多利用OpenMP的开源项目.有许多示例(例如,在维基百科上)和Web上的OpenMP教程,包括有关stackoverflow的许多问题.

我之前忽略了关于SIMD(单指令,多数据)的讨论,它提供了数据并行性.正如下面的评论所指出的,OpenMP是一个探索SIMD的选项(请查看此链接).对SSEAVX(对x86指令集架构的扩展)以及NEON(ARM架构)等指令集的扩展也值得探讨.我在使用SSE和AVX方面有过良好的经验.好处是它们可以为某些算法提供很好的速度(特别是我使用过Intel内在函数).不好的是,使用这些指令的能力取决于特定的CPU支持,这可能会导致意外的运行时异常.

特别是在并行性和数学方面,我使用英特尔MKL(现在有免费选项)以及OpenBLAS都有很好的经验.这些库提供常见数学函数/例程(例如,BLASLAPACK)的优化,并行和/或向量化实现.还有更多的库可以专门处理那些在某种程度上涉及优化并行性的数学.虽然它们可能不提供较低级别的并行性构建块(例如,操纵线程的能力,安排任务),但是在计算数学领域中利用(并促成)大量的研究和工作是非常有价值的.对于数学以外的兴趣领域,可以说类似的陈述.