【发布时间】:2018-08-09 01:47:44
【问题描述】:
我在 kafka 中有 2 个主题,我正在写两次。他们的偏移量一开始就在不同的提交点。我的消费者从第二个主题开始消费较晚,但最终会赶上第一个主题。我怎样才能最好地找出他们是否都被赶上了?
我计划查看从两个主题中消耗的先前消息的固定窗口,并检查所消耗的消息在性质上是否相似。关于如何找到它们是否相似的任何想法?
关于我如何确定他们已经被追上的任何其他想法?
另外,我的主题有多个分区。检查应包括是否所有分区都已被赶上。
【问题讨论】:
-
列出给定您的应用程序组 id 的消费者组
-
您在两个主题上写的消息数量是否完全相同?如果是这样,偏移量总和 (topic1) = 偏移量总和 (topic2) 可以为您提供非常接近的结果。
标签: apache-kafka kafka-consumer-api kafka-producer-api