将几个子过程连在一起

Question

我有5个进程p1,p2,...,p5,我想把一些数据写入p1的stdin,管道p1输出到p2 stdin,最后从p5的输出读取最终结果.

到目前为止我尝试了什么:

p1 = Popen(['p1'], stdin=PIPE, stdout=PIPE)
p2 = Popen(['p2'], stdin=p1.stdout, stdout=PIPE)
...
p5 = Popen(['p5'], stdin=p4.stdout, stdout=PIPE)

# write data to stdin
p1.stdin.write(indata)
p1.stdin.close()

# not sure in what order to close the pipes here, if at all

# read output
out = p5.stdout.read()
print out

剪辑的最后一个代码只是挂起,因为我必须正确地进行读/写操作.

我能够使用communicate()两个进程来处理单个进程而无需向第一个进程提供任何输入(例如来自Python文档):

output=`dmesg | grep hda`
==>
p1 = Popen(["dmesg"], stdout=PIPE)
p2 = Popen(["grep", "hda"], stdin=p1.stdout, stdout=PIPE)
p1.stdout.close()  # Allow p1 to receive a SIGPIPE if p2 exits.
output = p2.communicate()[0]

但我无法弄清楚,如何在不挂掉解释器的情况下为第一个进程提供输入.

我也可以使用一个bash脚本(我已经编写并且可以工作),但我想知道,如何用Python实现它.

所以,我想问一下,如何做到这一切,特别是以什么顺序对管道进行读/写/关闭操作？

我正在研究64位Linux,如果这很重要的话.

编辑:我忘了提到所有进程p1,.. p5消耗它们给出的所有输入,处理它,写入stdout然后终止.因此,管道中的下一个进程不应在先前的处理完成之前终止.

编辑2:我知道我也可以使用

command = 'bash -c "p1 | p2 | p3 | p4 | p5"'
proc = Popen([command], shell=True)
out, err = proc.communicate(input=indata)
print out

但我的主要兴趣是知道如何纯粹用python代码链接管道.

Answer 1

也许这可以帮助:

import sys
import tempfile
from subprocess import Popen, PIPE


cmd = [sys.executable, '-c', 'print raw_input()']

# Using a temp file to give input data to the subprocess instead of stdin.write to avoid deadlocks.
with tempfile.TemporaryFile() as f:
    f.write('foobar')
    f.seek(0)  # Return at the start of the file so that the subprocess p1 can read what we wrote.
    p1 = Popen(cmd, stdin=f, stdout=PIPE)

p2 = Popen(cmd, stdin=p1.stdout, stdout=PIPE)
p3 = Popen(cmd, stdin=p2.stdout, stdout=PIPE)

# No order needed.
p1.stdout.close()
p2.stdout.close()

# Using communicate() instead of stdout.read to avoid deadlocks. 
print p3.communicate()[0]

输出:

$ python test.py
foobar

希望这可以很好.