【问题标题】:Is it possible to reuse a consumer in apache kafka using python是否可以使用 python 在 apache kafka 中重用消费者
【发布时间】:2020-11-24 17:31:14
【问题描述】:

只是想知道是否可以在 python 脚本运行时重用消费者?

我正在使用 heroku kafka 进行数据流传输,并且有一个使用 kafka-python 库连接到代理的 python 脚本。运行脚本时,将创建一个新的消费者组。但是,Heroku 每天至少重新启动一次我的脚本,我无法停止重新启动。因此,每次重新启动脚本时,都会创建一个新的消费者,并且我遇到了重新平衡问题。

只是想知道如何在脚本中使用旧的现有消费者来使用主题中的数据?

感谢任何帮助。非常感谢。

【问题讨论】:

  • 您是否向 Python 使用者提供了组 ID?

标签: python apache-kafka kafka-consumer-api


【解决方案1】:

您可以在之前创建一个消费者组并在创建新消费者时将其传递给脚本。如果您在创建消费者时传递消费者组名称,Apache 将不会创建新的消费者组。请参阅以下代码以传递消费者组详细信息使用外壳

./bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic topicName --group [consumer group name]

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2019-08-11
    • 1970-01-01
    • 2019-07-12
    • 2017-08-18
    • 1970-01-01
    相关资源
    最近更新 更多