【问题标题】:What happens when min.compaction.lag.ms is greater than log.cleaner.max.compaction.lag.ms?当 min.compaction.lag.ms 大于 log.cleaner.max.compaction.lag.ms 时会发生什么?
【发布时间】:2021-05-13 01:31:07
【问题描述】:

我使用的是 Kafka 2.2.0,因此还没有为每个主题配置 max.compaction.lag.ms 的选项。

在全球范围内我有log.cleaner.max.compaction.lag.ms=86400000(一天):

对于主题__consumer_offsets,我想将压缩至少推迟三天,以保留一些短期历史。

我可以将min.compaction.lag.ms 设置为259200000(三天),但这似乎与较小的log.cleaner.max.compaction.lag.ms 相反。如果我仍然这样做会发生什么?

【问题讨论】:

    标签: apache-kafka kafka-topic kafka-cluster


    【解决方案1】:

    如果发生任何一种情况,将执行压缩:

    1. 脏/净比率和min.compaction.lag 的条件都满足

    1. max.compaction.lag 已实现

    所以min.compaction.lag.ms 大于max.compaction.lag.ms 是可以的。 因为它们在 2 种不同的条件下使用并且不相互矛盾。

    顺便说一句,你最后选择了什么?你的结果是什么?

    【讨论】:

    • "所以min.compaction.lag.ms 小于max.compaction.lag.ms 是可以的。-> 当然,但我说的是相反的方式,即“最大小于最小”。
    • "你最后选择了什么?你的结果是什么?" -> 什么都没有。我根本没有为__consumer_offsets 增加min.compaction.lag.ms,并放弃了为该主题提供一些短期历史的想法。 :-)
    • @TobiasHermann 抱歉,我已根据您的评论更新了答案
    猜你喜欢
    • 2016-01-26
    • 2022-01-21
    • 2016-01-27
    • 2020-11-13
    • 2022-09-29
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2020-03-17
    相关资源
    最近更新 更多