【问题标题】:Kafka Stream Restore Consumers not able to authenticateKafka Stream Restore 消费者无法进行身份验证
【发布时间】:2019-02-08 09:00:54
【问题描述】:

我在恢复消费者方面遇到问题,他们无法连接到代理获取:

Connection to node -1 failed authentication due to: Authentication failed due to invalid credentials with SASL mechanism PLAIN

在 ConsumerConfig 值:xxx-StreamThread-1-restore-consumer 的信息日志中,我看到没有设置 group.id。诸如 xxx-StreamThread-1-consumer 之类的非恢复消费者设置了组 ID。

进行一些挖掘,看起来恢复消费者不应该有组 ID。我们的主题是基于权限的,我们的消费者需要成为特定消费者组的一部分才能访问特定主题。

有没有办法设置组ID?这些还原消费者是什么?我们如何通过这个问题?

【问题讨论】:

    标签: apache-kafka apache-kafka-streams


    【解决方案1】:

    您不能为恢复消费者设置group.id

    恢复消费者习惯于(顾名思义)恢复状态。例如,如果有状态任务从实例 A 迁移到实例 B,在实例 B 可以恢复处理之前,它首先需要重新创建状态。恢复消费者用于这部分(即读取相应的存储更改日志主题)。

    请注意,这是一个 hack——我认为它应该可以工作,但您自己承担风险:您可以做的一种解决方法是使用自定义 KafkaClientSupplier你传入KafkaStreams 构造函数。在getRestoreConsumer() 中,在创建新的KafkaConsumer 之前修改提供的Map<String, Object> config 并添加group.id 条目。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2018-07-02
      • 1970-01-01
      • 2016-01-11
      • 1970-01-01
      • 2014-07-31
      • 2016-06-21
      • 2017-06-22
      • 1970-01-01
      相关资源
      最近更新 更多