标签: parallel-processing

所以我对这个术语感到有点困惑.

每个人都将"异步"计算称为在单独的线程上运行不同的进程,这给出了这些进程同时运行的错觉.

这不是异步这个词的定义.

a?syn?chro?nous
–adjective 
1. not occurring at the same time. 
2. (of a computer or other electrical machine) having each operation started only after the preceding operation is completed. 

我在这里不理解什么？

我想知道一个程序是否可以同时运行两个线程(基本上它是用于正确的？).但是,如果我在一个函数中进行系统调用,它在线程A上运行,并且在另一个函数中运行一些其他任务,它在线程B上运行,它们是否能够同时运行或者我的第二个运行功能等到系统调用完成？

我的原始问题的附加组件:现在,当系统调用正在进行时,此过程仍然是一个不间断的过程吗？我在谈论在UNIX/LINUX上使用任何系统调用.

如何在Windows中使用r的代码并行化代码？包括一个简单的例子.发布这个自我回答的问题,因为这对于工作是相当不愉快的.你会发现包并行不能单独工作,但包雪工作得非常好.

GPU使用SIMD范例,即,相同的代码部分将并行执行,并应用于数据集的各种元素.

但是,CPU也使用SIMD,并提供指令级并行.例如,据我所知,类似SSE的指令将处理具有并行性的数据元素.

虽然SIMD范例似乎在GPU和CPU中的使用方式不同,但GPU的SIMD功率是否比CPU更多？

在哪种方式中,CPU中的并行计算能力比GPU中的并行计算能力"弱"？

谢谢

我正在尝试提出一些专注于多线程的编程难题.到目前为止,我能够提出的大部分问题都是针对特定领域的.对于试图学习多线程应用程序核心概念的开发人员,是否有任何人有任何体面的编程难题？

我需要做一些模拟和调试,我想set.seed用来获得相同的结果.这是我想要做的例子:

library(foreach)
library(doMC)
registerDoMC(2)

set.seed(123)
a <- foreach(i=1:2,.combine=cbind) %dopar% {rnorm(5)}
set.seed(123)
b <- foreach(i=1:2,.combine=cbind) %dopar% {rnorm(5)}

对象a和b应该是相同的,即sum(abs(a-b))应该为零,但是这并非如此.我做错了什么,或者我偶然发现了一些功能？

我能够在R 2.13和R 2.14的两个不同系统上重现这一点

如果我像这样使用嵌套并行for循环:

#pragma omp parallel for schedule(dynamic,1)
for (int x = 0; x < x_max; ++x) {
    #pragma omp parallel for schedule(dynamic,1)
    for (int y = 0; y < y_max; ++y) { 
    //parallelize this code here
   }
//IMPORTANT: no code in here
}

这相当于:

for (int x = 0; x < x_max; ++x) {
    #pragma omp parallel for schedule(dynamic,1)
    for (int y = 0; y < y_max; ++y) { 
    //parallelize this code here
   }
//IMPORTANT: no code in here
}

除了创建新任务之外,做外部并行吗？

这是microsoft为parallel提供的示例,我想知道如何为此代码配置最大线程数.

     // A basic matrix multiplication.
     // Parallelize the outer loop to partition the source array by rows.
     System.Threading.Tasks.Parallel.For(0, matARows, i =>
     {
        for (int j = 0; j < matBCols; j++)
        {
           // Use a temporary to improve parallel performance.
           double temp = 0;
           for (int k = 0; k < matACols; k++)
           {
              temp += matA[i, k] * matB[k, j];
           }
           result[i, j] = temp;
        }
     }); // Parallel.For

我真的不了解OpenCL中工作组的目的.

我知道它们是一组工作项(据说是硬件线程),它们是并行执行的.

但是,为什么需要更粗略的细分呢？只有线程网格(事实上,只有一个WG)不是没有问题吗？

工作组是否应该完全映射到物理核心？例如,据说TESLA c1060卡有240个核心.工作组将如何映射到这个？

另外,据我所知,由于内存栅栏,工作组内的工作项可以同步.工作组可以同步还是甚至需要？他们是通过共享内存相互交谈,还是只针对工作项目(在这一项上不确定)？

我已经阅读了和宏的文档,但仍然无法弄清楚如何以及何时使用它们,也无法在互联网上的其他地方找到许多资源或示例. @async@sync

我的直接目标是找到一种方法来设置几个工作程序并行工作,然后等待它们全部完成后继续我的代码.这篇文章:等待在Julia的远程处理器上完成的任务包含一个成功的方法来实现这一点.我原以为应该可以使用@async和@sync宏,但是我最初的失败让我想知道我是否正确理解了如何以及何时使用这些宏.