使用 Celery Worker 与 SQLAlchemy DB 交互，包括从请求中了解用户

Question

我对此做了很多研究，包括尝试这样的答案。看来 Celery 无法访问我的 Flask 应用程序的上下文。

我完全了解我的 celery 对象，它将装饰我的任务，必须能够访问我的 Flask 应用程序的上下文。我确实相信它应该，因为我按照本指南创建了我的芹菜对象。我不确定混淆是否存在于我使用 Flask-HTTPAuth 的事实中。

这是我所拥有的一些内容。

def make_celery(app):
    celery = Celery(app.import_name, backend=app.config["CELERY_RESULT_BACKEND"], broker=app.config["CELERY_BROKER_URL"])
    celery.conf.update(app.config)
    TaskBase = celery.Task
    class ContextTask(TaskBase):
        abstract = True
        def __call__(self, *args, **kwargs):
            with app.app_context():
                return TaskBase.__call__(self, *args, **kwargs)
    celery.Task = ContextTask
    return celery

app = Flask(__name__)
auth = HTTPBasicAuth()
app.config["SQLALCHEMY_DATABASE_URI"] = "sqlite:///flask_app.db"
app.config["CELERY_BROKER_URL"] = "redis://localhost:6379"
app.config["CELERY_RESULT_BACKEND"] = "redis://localhost:6379"
celery = make_celery(app)
db = SQLAlchemy(app)

@celery.task(bind=True, name="flask_app.item_loop")
def loop(self):
    items = g.user.items
    for item in items:
        print(item)

不过，使用 Flask 运行此任务是不行的。我尝试通过访问服务器来启动此功能（在授权的情况下！）。

@app.route("/item_loop")
@auth.login_required
def item_loop():
    result = loop.delay()
    return "It's running."

但是 Celery 工作人员告诉我任务raised unexpected: AttributeError("'_AppCtxGlobals' object has no attribute 'user'",)，我相信这意味着，如上所述，我的 celery 对象没有应用程序上下文，即使我使用了推荐的工厂模式。

Answer 1

虽然 Dave 和 Greg 的答案中的建议是有效的，但他们没有强调的是您对 Celery 任务中使用应用程序上下文的误解。

您有一个 Flask 应用程序，您在其中使用 Flask-HTTPAuth。您可能有一个verify_password设置g.user为经过身份验证的用户的处理程序。这意味着当您处理请求时，您可以以 访问用户g.user。这一切都很好。

您还有一个或多个 Celery Worker，它们是独立的进程，与 Flask 服务器没有直接连接。Flask 服务器和 Celery 工作进程之间的唯一通信发生在您使用的消息代理（通常是 Redis 或 RabbitMQ）上。

根据您的需求，Celery 工作人员可能需要访问 Flask 应用程序。当使用将其配置存储在app.config字典中的 Flask 扩展时，这种情况很常见。需要此功能的两个常见扩展是 Flask-SQLAlchemy 和 Flask-Mail。如果无法访问app.config，Celery 任务将无法打开与数据库的连接或发送电子邮件，因为它不知道数据库和/或电子邮件服务器的详细信息。

为了让 Celery 工作线程能够访问配置，可接受的做法是在每个工作线程中创建重复的 Flask 应用程序。这些是辅助应用程序，与主 Flask 服务器使用的实际应用程序对象没有任何联系。它们的唯一目的是保存原始字典的副本app.config，您的任务或您的任务正在使用的任何 Flask 扩展都可以访问该副本。

因此，期望Flask 服务器中的集合也可以像Celery 任务中g.user那样可访问是无效的，仅仅因为这些是来自不同应用程序实例的不同对象。g.userg

如果您需要在 Celery 任务中使用经过身份验证的用户，您应该做的是将user_id（通常g.user.id）作为参数传递给您的任务。然后在您的任务中，您可以使用此从数据库加载用户id。希望这可以帮助！