Celery - 如何使用多个队列?

Mil*_*ano 5 python django redis celery

我想为不同的任务创建多个队列。例如emailqueue,发送电子邮件或pipedrive队列同步任务pipedrive API不必email等到所有pipedrives任务都同步,反之亦然。

我是路由新手,我尝试了两种创建队列的方法,但似乎都不起作用。

  1. 这是优选的方法。我尝试在@task装饰器中定义队列

    @task(bind=True,  queue='pipedrivequeue')
    
    Run Code Online (Sandbox Code Playgroud)

    def backsync_lead(self,lead_id):

  2. 设置.py

    CELERY_ROUTES = { # tried CELERY_TASK_ROUTES too
        'pipedrive.tasks.*': {'queue': 'pipedrivequeue'},
       ...
    }
    
    Run Code Online (Sandbox Code Playgroud)

在这两种情况下,当我celery worker手动运行时,我只看到一个默认celery队列。

(project) milano@milano-PC:~/PycharmProjects/project$ celery -A project.celery worker -l info

 -------------- celery@milano-PC v4.2.2 (windowlicker)
---- **** ----- 
--- * ***  * -- Linux-4.15.0-47-generic-x86_64-with-Ubuntu-18.04-bionic 2019-04-12 17:17:05
-- * - **** --- 
- ** ---------- [config]
- ** ---------- .> app:         project:0x7f3b47f66cf8
- ** ---------- .> transport:   redis://localhost:6379//
- ** ---------- .> results:     redis://localhost/
- *** --- * --- .> concurrency: 12 (prefork)
-- ******* ---- .> task events: OFF (enable -E to monitor tasks in this worker)
--- ***** ----- 
 -------------- [queues]
                .> celery           exchange=celery(direct) key=celery


[tasks]
  . project.apps.apis.pipedrive.tasks.backsync_all_stages
  . project.apps.apis.pipedrive.tasks.backsync_lead
Run Code Online (Sandbox Code Playgroud)

正如您在这一行中看到的:

 -------------- [queues]
                .> celery           exchange=celery(direct) key=celery
Run Code Online (Sandbox Code Playgroud)

可能只有一个队列。我只想将此队列用于未指定队列的任务。

你知道问题出在哪里吗?

编辑

   (project) milano@milano-PC:~/PycharmProjects/peoject$ celery inspect active_queues
Error: No nodes replied within time constraint.
Run Code Online (Sandbox Code Playgroud)

mar*_*er_ 2

您需要运行一个具有显式命名的队列的工作程序,然后 django 将能够将数据输入到该队列中;

celery worker -A project.celery -l info  # Default queue worker
celery worker -A project.celery -l info -Q pipedrivequeue  # pipedrivequeue worker
celery worker -A project.celery -l info -Q testqueue  # testqueue worker
Run Code Online (Sandbox Code Playgroud)

  • 显然它在更新的版本中已重命名为 CELERY_TASK_QUEUES 顺便说一句,您可以使用逗号运行多个队列,-Q a,b,c (3认同)