【问题标题】:How can I make a batch consumer with kafka-python?如何使用 kafka-python 制作批量消费者?
【发布时间】:2018-06-16 10:33:17
【问题描述】:

我一直在寻找一段时间,但我找不到用kafka-python 创建batch consumer 的方法。我找到了Java 的指南,但这并不是我想要实现的目标。实际上,我的目标只是消耗固定数量的记录,比如说并处理它们(执行一些转换),然后将它们存储到数据库中。

【问题讨论】:

标签: python apache-kafka kafka-consumer-api


【解决方案1】:

这是一个消费者论点:

max_poll_records (int) – 一次返回的最大记录数 单次调用 poll()。默认值:500

我认为 kafka-python 可以使用最大数量的记录进行批量消费,可能不完全是你所说的固定数量。

【讨论】:

  • 另一个问题,在我看到的示例中,它们独立地遍历每条消息,这个选项如何改变?
  • 我认为它与只有一个相同。消费者可以在一个轮询请求中拉取max_poll_records,并逐个处理
猜你喜欢
  • 2021-04-24
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2020-05-10
  • 2020-09-19
  • 2019-02-04
  • 1970-01-01
  • 2021-12-02
相关资源
最近更新 更多