【发布时间】:2020-10-07 19:24:12
【问题描述】:
我希望即使没有 celery 工人也能执行 celery 任务。该 celery 任务应该像正常功能一样工作,并且无论如何都会执行。
【问题讨论】:
标签: django celery django-celery celery-task
我希望即使没有 celery 工人也能执行 celery 任务。该 celery 任务应该像正常功能一样工作,并且无论如何都会执行。
【问题讨论】:
标签: django celery django-celery celery-task
有几种方法可以实现这一目标。推荐的方法使用broadcast 控制命令明确地向工作人员查询已注册任务的列表:
app = Celery(broker='amqp://')
reply = app.control.broadcast('registered', reply=True)
tasks = set(t for n in reply for w in n.values() for t in w)
if 'my_task_name' in tasks:
# there is an online worker that can handle the task
# => use async mode
app.send_task('my_task_name', args=(...), kwargs={...}, ...)
# or use my_task.apply_async(...)
else:
# there is no online worker for the task
# => call the function directly
my_task(...)
或者,您可以尝试将任务直接发送给代理并在短时间内检查结果。如果在那之后任务仍然有PENDING 结果,大概没有工人可以处理该任务。如果是这种情况,您可以将任务作为普通函数调用:
app = Celery(broker='amqp://', backend='rpc://')
result = app.send_task('my_task_name', args=(...), kwargs={...}, ..., expiration=5)
time.sleep(5)
if result.state == 'PENDING':
# presumably the task didn't start because there hasn't been any worker
my_task(...)
不过,使用第二种方法时必须谨慎。任务挂起可能还有其他原因(例如,他们很忙并且预取了最大数量的任务)。此外,此示例假定您的代理支持 AMQP 过期(例如 RabbitMQ)并且您不会忽略任务结果。
【讨论】: