【问题标题】:Kafka console consumer not consuming from topicKafka 控制台消费者未从主题消费
【发布时间】:2018-07-01 17:11:32
【问题描述】:

我们有一个服务器来处理消息的生产和消费。我们有 4 台笔记本电脑,所有 Mac 都运行相同的命令行...

./kafka-avro-console-consumer --from-beginning --bootstrap-server 0.0.0.0:9092,0.0.0.0:9092 --topic topicName --property schema.registry.url=http://0.0.0.0:8081

4 台笔记本电脑中有 3 台在使用消息时没有问题,但第四台不会。我已经确认我的笔记本电脑对 IP 地址具有相同的访问权限,我可以通过转到地址 /subjects 来查看架构注册表中的主题,并且我在控制台和日志中都没有收到任何错误。

我完全不知道还要检查什么。有没有其他人遇到过这种情况并可能找到了解决方案?

【问题讨论】:

  • 你消费的topic有多少个partition?
  • 它在我们的测试盒中,所以 PartitionCount:2 ReplicationFactor:1
  • 我也在我们的性能服务器上试过这个,一个有 48 个分区,我也有同样的问题。要添加更多细节,如果我在代码 (c#) 中运行我们的 webproxy,它会产生一条消息,它会在一分钟左右后超时。所以我对它的生产和消费都有疑问。

标签: apache-kafka avro confluent-platform confluent-schema-registry


【解决方案1】:

两个(或更多)唯一的控制台消费者应用程序获得与另一个完全相同的“随机”消费者组 ID 的概率很小,因此您只会在分配有主题分区的实例上看到消息数据。

一种解决方案是将唯一的组作为消费者属性传递给每台机器,否则尝试在机器上重新启动命令几次,而不是获取数据以随机化新的组 id。

我假设您实际上并没有在命令中使用 0.0.0.0

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2017-05-16
    • 1970-01-01
    • 2018-07-27
    • 2017-10-17
    • 2017-11-10
    • 2020-11-14
    • 2018-12-28
    相关资源
    最近更新 更多