sha*_*l85 6 python numpy shared-memory multiprocessing
我想在多个进程之间共享numpy数组.有工作的解决方案在这里.但是它们都通过继承将数组传递给子进程,这对我来说不起作用,因为我必须事先启动一些工作进程,而且我不知道稍后我要处理多少个数组.有没有办法在进程启动后创建这样的数组并通过队列将这些数组传递给进程?
顺便说一下,我无法使用multiprocessing.Manager.
根据您的具体用例,用于np.memmap您想要传输的数组可能是一个很好的方法。数据将存储在磁盘上,但它的使用方式就像标准数组一样,并且只有“标头”数据在队列中进行腌制,因此速度非常快。
请参阅https://docs.scipy.org/doc/numpy/reference/ generated/numpy.memmap.html