ims*_*msc 13 python parallel-processing multiprocessing
我有一些非常简单的案例,可以将工作分解并分配给工人.我从这里尝试了一个非常简单的多处理示例:
import multiprocessing
import numpy as np
import time
def do_calculation(data):
rand=np.random.randint(10)
print data, rand
time.sleep(rand)
return data * 2
if __name__ == '__main__':
pool_size = multiprocessing.cpu_count() * 2
pool = multiprocessing.Pool(processes=pool_size)
inputs = list(range(10))
print 'Input :', inputs
pool_outputs = pool.map(do_calculation, inputs)
print 'Pool :', pool_outputs
Run Code Online (Sandbox Code Playgroud)
上面的程序产生以下输出:
Input : [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
0 7
1 7
2 7
5 7
3 7
4 7
6 7
7 7
8 6
9 6
Pool : [0, 2, 4, 6, 8, 10, 12, 14, 16, 18]
Run Code Online (Sandbox Code Playgroud)
为什么要打印相同的随机数?(我的机器里有4个cpus).这是最好/最简单的方法吗?
mgi*_*son 14
我想你需要在你的函数中使用numpy.random.seed重新种子随机数生成器do_calculation
.
我的猜测是,在导入模块时,随机数生成器(RNG)会被播种.然后,当您使用多处理时,您使用已经播种的RNG分叉当前进程 - 因此,您的所有进程都为RNG共享相同的种子值,因此它们将生成相同的数字序列.
例如:
def do_calculation(data):
np.random.seed()
rand=np.random.randint(10)
print data, rand
return data * 2
Run Code Online (Sandbox Code Playgroud)