【问题标题】:UNKOWN_PRODUCER_ID and deleting store-changelog topicUNKOWN_PRODUCER_ID 和删除 store-changelog 主题
【发布时间】:2019-02-07 12:56:46
【问题描述】:

kafka-streams 根据我们的 kafka-stream 的拓扑创建了许多隐式主题,最近当我们在 avro 模式中进行了一些不兼容的更改时,我们告诉我们的管理员删除这些主题并存储 kafka-stream 存储的目录.

现在我们开始在日志中看到一些 UnkownProducerIdException。删除这些隐含的Topics会不会产生这样的异常?

我们一直假设,如果我们在重启 kafka-stream 应用程序时删除这些主题和存储,它们会自动创建和维护,这个假设是否正确?

我在 apache JIRA 中看到 UNKOWN_PRODUCER_ID 的 KAFKA-6817、KAFKA-7190 和 KIP-360 问题,但这些问题似乎与 out 没有直接关系。

对于我们的案例(更改的 AVRO 架构)应该采取什么正确措施,是否允许我们删除那些隐含的主题并存储,或者我们应该做其他事情。

'auto.topic.create.enable' 标志对这些隐式主题的创建也有影响吗?

谢谢解答。

【问题讨论】:

    标签: apache-kafka-streams


    【解决方案1】:

    现在我们开始在日志中看到一些 UnkownProducerIdException。删除这些隐含的主题会产生这样的异常吗?

    是的。

    我们一直假设,如果我们在重启 kafka-stream 应用程序时删除这些主题和存储,它们会自动创建和维护,这个假设是否正确?

    是的,Kafka Streams 将重新创建这些主题。

    'auto.topic.create.enable' 标志是否对这些隐式主题的创建有任何影响?

    没有。 Kafka Streams 不依赖自动创建主题(事实上,一般建议禁用自动创建主题),而是通过AdminClient 发出显式创建主题请求。

    【讨论】:

    • 在删除这些主题后,我们可以/应该做些什么来防止 UnkownProducerIdException 发生?
    • 没有。它是卡夫卡内部的。还有一个关于UnkownProducerIdException 的已知错误,您可能会遇到:cwiki.apache.org/confluence/display/KAFKA/…
    猜你喜欢
    • 2020-03-18
    • 2018-05-19
    • 1970-01-01
    • 1970-01-01
    • 2019-07-17
    • 1970-01-01
    • 2020-06-29
    • 1970-01-01
    • 2017-10-17
    相关资源
    最近更新 更多