在gunicorn工人之间分享锁定

Question

有没有一个很好的方法来分享gunicorn工人之间的多处理锁？我正在尝试用Flask编写一个json API.一些API调用将与管理正在运行的进程的python类进行交互(如用于视频转换的ffmpeg).当我将Web工作者的数量扩大到1以上时,如何确保只有1名工作人员同时与该班级进行交互？

我最初的想法是使用multiprocessing.Lock,所以start()函数可以是原子的.我不认为我已经找到了创建Lock的正确位置,以便在所有工作者之间共享一个:

# runserver.py
from flask import Flask
from werkzeug.contrib.fixers import ProxyFix
import dummy

app = Flask(__name__)

@app.route('/')
def hello():
    dummy.start()
    return "ffmpeg started"

app.wsgi_app = ProxyFix(app.wsgi_app)

if __name__ == '__main__':
    app.run()

这是我的虚拟操作:

# dummy.py
from multiprocessing import Lock
import time

lock = Lock()

def start():
    lock.acquire()

    # TODO do work
    for i in range(0,10):
        print "did work %s" % i
        time.sleep(1)

    lock.release()

当我刷新页面几次时,我看到每个调用的输出编织在一起.

我在这里吠叫错了吗？有没有更简单的方法来确保只有处理类的副本(这里只是虚拟start()方法)同时运行？我想我可能需要像celery这样的东西来运行任务(并且只使用1名工人),但这对我的小项目来说似乎有些过分.

Answer 1

我试了一下,似乎工作了.我把它放进preload_app = True去gunicorn.conf,现在锁似乎是分享的.我仍在调查这里到底发生了什么,但现在这已经足够了,YMMV.

Answer 2

后期添加：
如果由于某种原因，使用preload_app不可行，那么你需要使用命名锁。这确保所有进程都使用相同的锁对象。使用mp.Lock()将为每个进程创建一个不同的对象，否定任何值。

我看到了这个包，但还没有使用它。它在一台机器的范围内提供一个命名锁；这意味着同一台机器内的所有进程都将使用相同的锁，但在一台机器的边界之外，此解决方案是不合适的。

Answer 3

按照彼得的回答，工人可以共享锁资源。

但是，最好使用try-finally块来确保锁定将始终被释放。

# dummy.py
from multiprocessing import Lock
import time

lock = Lock()

def start():
    lock.acquire()

    try:
        # TODO do work
        for i in range(0,10):
            print "did work %s" % i
            time.sleep(1)
    finally:
        lock.release()