并行dask for循环比常规循环慢？

Question

如果我尝试用dask并行化for循环，它的执行速度将比常规版本慢。基本上，我只是按照dask教程中的介绍性示例进行操作，但是由于某种原因，它最终还是失败了。我究竟做错了什么？

In [1]: import numpy as np
   ...: from dask import delayed, compute
   ...: import dask.multiprocessing

In [2]: a10e4 = np.random.rand(10000, 11).astype(np.float16)
   ...: b10e4 = np.random.rand(10000, 11).astype(np.float16)

In [3]: def subtract(a, b):
   ...:     return a - b

In [4]: %%timeit
   ...: results = [subtract(a10e4, b10e4[index]) for index in range(len(b10e4))]
1 loop, best of 3: 10.6 s per loop

In [5]: %%timeit
   ...: values = [delayed(subtract)(a10e4, b10e4[index]) for index in range(len(b10e4)) ]
   ...: resultsDask = compute(*values, get=dask.multiprocessing.get)
1 loop, best of 3: 14.4 s per loop

Answer 1

两个问题：

1. Dask会为每个任务带来大约一毫秒的开销。您将要确保您的计算花费的时间明显更长。
2. 使用多处理调度程序时，数据会在进程之间进行序列化，这可能会非常昂贵。参见http://dask.pydata.org/en/latest/setup.html