为什么一个简单的python生产者/消费者多线程程序不会通过添加工作者数量来加速？

Question

下面的代码几乎与http://docs.python.org/2/library/queue.html上的python官方Queue示例相同.

from Queue import Queue
from threading import Thread
from time import time
import sys

num_worker_threads = int(sys.argv[1])
source = xrange(10000)

def do_work(item):
    for i in xrange(100000):
        pass

def worker():
    while True:
        item = q.get()
        do_work(item)
        q.task_done()

q = Queue()

for item in source:
    q.put(item)

start = time()

for i in range(num_worker_threads):
    t = Thread(target=worker)
    t.daemon = True
    t.start()

q.join()

end = time()

print(end - start)

这些是Xeon 12核处理器的结果:

$ ./speed.py 1
12.0873839855

$ ./speed.py 2
15.9101941586

$ ./speed.py 4
27.5713479519

我预计增加工人数会减少响应时间,但相反,它会增加.我一次又一次地做了实验,但结果并没有改变.

我错过了一些明显的东西吗 或python队列/线程不能很好地工作？

Answer 1

是的,Maxim关于GIL的权利.但是,只要你在工人身上做了值得做的事情,大多数情况下情况就会发生变化.在线程中要做的典型事情涉及等待I/O或其他可以完成线程切换的事情.如果你不只计算工人的数字,而是模拟睡眠工作,那么情况会发生巨大变化:

#!/usr/bin/env python

from Queue import Queue
from threading import Thread
from time import time, sleep
import sys

num_worker_threads = int(sys.argv[1])
source = xrange(1000)

def do_work(item):
    for i in xrange(10):
        sleep(0.001)

def worker():
    while True:
        item = q.get()
        do_work(item)
        q.task_done()

q = Queue()

for item in source:
    q.put(item)

start = time()

for i in range(num_worker_threads):
    t = Thread(target=worker)
    t.daemon = True
    t.start()

q.join()

end = time()

这给出了以下结果:

for i in 1 2 3 4 5 6 7 8 9 10; do echo -n "$i "; ./t.py $i; done
1 11.0209097862
2 5.50820493698
3 3.65133094788
4 2.73591113091
5 2.19623804092
6 1.83647704124
7 1.57275605202
8 1.38150596619
9 1.23809313774
10 1.1111137867

Answer 2

Python在多线程方面相当差.由于全局锁定,一次只有一个线程正在进行.请参阅http://wiki.python.org/moin/GlobalInterpreterLock