【问题标题】:How to limit the event consumption speed of kafka consumer so that service is not impacted如何限制kafka消费者的事件消费速度,使服务不受影响
【发布时间】:2020-11-12 05:12:48
【问题描述】:

如何限制kafka消费者的事件消费速度,使服务不受影响。在kafka Topic中获取大量数据,我需要处理所有事件。 我们有 8 个消费者从 12 个分区读取 在 kafka 主题中获取大量数据,但保留时间为 5 天。那么我如何从消费者方面进行限制,以使消费者不会下降。卡夫卡有什么办法可以从消费者方面提高消息阅读速度,例如。比如 10 分钟内的 100 个事件。

【问题讨论】:

    标签: java apache-kafka apache-kafka-streams software-design


    【解决方案1】:

    您可以使用kafka quotas 限制消费者请求。

    如果您的消费者“走下坡路”,则代码中可能存在其他问题。例如,在完全处理先前的消息之前,不阻止对更多消息的请求。但配额应该有助于限制消费者。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2017-05-04
      • 1970-01-01
      • 2018-10-31
      • 1970-01-01
      • 2019-01-15
      • 1970-01-01
      • 2019-08-08
      • 1970-01-01
      相关资源
      最近更新 更多