【问题标题】:Kafka rebalancing - assignement of Kafka consumers to partitionsKafka 重新平衡 - 将 Kafka 消费者分配到分区
【发布时间】:2021-01-26 19:09:52
【问题描述】:

当新的 Kafka 消费者加入/离开消费者组时,Kafka 运行时会触发重新平衡过程,以便执行新的分区分配/映射到新的消费者集。关于再平衡过程,我想问三个问题:

(1) 除了已经实现的算法之外,是否可以以某种方式插入自定义的再平衡算法?

(2) 是否可以将外部变量传递给自定义算法?

(3) 除了已知情况(例如消费者离开、加入等)之外,是否可以动态且有选择地启动再平衡过程。

【问题讨论】:

    标签: apache-kafka kafka-consumer-api kafka-producer-api


    【解决方案1】:
    1. 是的,您可以使用partition.assignment.strategy 设置自定义分配算法。自定义类需要实现ConsumerPartitionAssignor。

    2. assignor 可以执行任何必要的逻辑来从环境或其他地方检索值。

    3. 从Kafka 2.6开始,可以使用enforceRebalance()触发一个。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 2017-01-04
      • 1970-01-01
      • 2018-05-23
      • 2017-06-19
      • 1970-01-01
      • 2020-08-04
      • 1970-01-01
      相关资源
      最近更新 更多