芹菜工人：如何从所有队列中消费？

Question

我有

• 设置CELERY_CREATE_MISSING_QUEUES = True
• 未定义CELERY_QUEUES
• 定义CELERY_DEFAULT_QUEUE = 'default'（直接类型）
• 一个自定义路由类，它可以动态创建路由，如图所示 这张票 (https://github.com/celery/celery/issues/150)。

我看到自定义路由器返回的路由中的新队列被创建，我认为这是因为CELERY_CREATE_MISSING_QUEUES。

现在在我运行的工作节点中，我没有传递 -Q 参数，它仅从“默认”队列中消耗，这似乎与文档一致 -

默认情况下，它将消耗所有定义在 CELERY_QUEUES 设置（如果未指定，则默认为队列 命名为芹菜）。

有什么方法可以让我的工作节点从所有队列中消费，包括动态创建的队列？

谢谢，

Answer 1

工作人员需要被告知这些自动或动态创建的队列，因此您需要一种方法来获取这些队列名称并在创建它们时存储它们，或者如果您使用 RabbitMQ 作为可能从rabbitmqctl list_queues 获取它们代理，例如添加一个信号处理程序以将这些动态队列添加到工作人员以进行消费。

例如使用celeryd_after_setup信号：

from celery.signals import celeryd_after_setup

@celeryd_after_setup.connect
def add_dynamic_queue(sender, instance, **kwargs):
    # get the dynamic queue, maybe stored somewhere
    queue = 'dynamic_queue'
    instance.app.amqp.queues.select_add(queue)

如果您总是创建新的动态队列，您还可以使用以下命令命令工作人员在运行时从这些队列中开始消费：

#command all workers to consume from the 'dynamic_queue' queue
app.control.add_consumer('dynamic_queue', reply=True)

# command specific workers
app.control.add_consumer('dynamic_queue', reply=True, destination=[w1@example])

见Adding Consumers。

我希望这会有所帮助，当我获得更多信息时，我会编辑问题。