【问题标题】:Topic consumption rate话题消费率
【发布时间】:2018-12-21 21:25:59
【问题描述】:

我想知道某个主题的消费率。 Kafka-manager 指标中有Messages in /sec,但没有我想要的Messages out /sec。我该怎么办?

【问题讨论】:

    标签: apache-kafka kafka-consumer-api


    【解决方案1】:

    Kafka 代理没有Messages out /sec 指标,因为当批次发送给消费者时,它们没有解压缩,因此代理不知道确切的原始消息数。

    Kafka 代理对每个主题都有 bytes out / sec 指标。这通常可以很好地了解消费者活动。如果您知道平均消息大小,则可以推断出消息输出/秒值的粗略估计。见http://kafka.apache.org/documentation/#monitoring

    另一方面,Kafka 消费者确实公开了收到的消息率:http://kafka.apache.org/documentation/#consumer_fetch_monitoring

    【讨论】:

    • 我可以得到并计算当前主题偏移量与Messages out /sec的差为几秒吗?
    • @Cheng 我建议监控消费者滞后以了解每个消费者组的消息速率。您可以使用 Burrow 或 Remora 之类的工具来执行此操作github.com/zalando-incubator/remora
    猜你喜欢
    • 2019-07-16
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2017-03-20
    • 2014-07-12
    • 2020-08-15
    相关资源
    最近更新 更多