相关疑难解决方法(0)

检索Celery中队列中的任务列表

如何检索队列中尚未处理的任务列表?

python celery

136
推荐指数
10
解决办法
10万
查看次数

芹菜:如何限制队列中的任务数量并在满员时停止喂食?

我对Celery很新,这是我的问题:

假设我有一个脚本经常被认为是从DB获取新数据并使用Celery将其发送给工作人员.

tasks.py

# Celery Task
from celery import Celery

app = Celery('tasks', broker='amqp://guest@localhost//')

@app.task
def process_data(x):
    # Do something with x
    pass
Run Code Online (Sandbox Code Playgroud)

fetch_db.py

# Fetch new data from DB and dispatch to workers.
from tasks import process_data

while True:
    # Run DB query here to fetch new data from DB fetched_data

    process_data.delay(fetched_data)

    sleep(30);
Run Code Online (Sandbox Code Playgroud)

这是我的担忧:数据每30秒获取一次.process_data()函数可能需要更长的时间,并且取决于工作者的数量(特别是如果太少),队列可能会受到我所理解的限制.

  1. 我无法增加工人数量.
  2. 我可以修改代码,以便在数组满时禁止进入队列.

问题是如何设置队列大小以及如何知道它已满?一般来说,如何应对这种情况?

python multithreading multiprocessing rabbitmq celery

8
推荐指数
1
解决办法
3938
查看次数