【问题标题】:Kafka Connect HDFS Sink IssueKafka Connect HDFS 接收器问题
【发布时间】:2016-12-26 20:09:28
【问题描述】:

我正在尝试使用带有 HDFS Sink 连接器的 Kafka-Connect 流式传输数据。 Standalone 和 Distributed 模式都运行良好,但它只写入 HDFS 一次(基于刷新大小)并且以后不会流式传输。如果我遗漏了什么,请帮忙。

融合 2.0.0 和 Kafka 0.9.0

【问题讨论】:

    标签: apache-kafka confluent-platform apache-kafka-connect


    【解决方案1】:

    我很久以前就遇到过这个问题。只需检查以下参数是否丢失

    Connect-hdfs-sink 属性

    "logs.dir":"/hdfs_directory/data/log"

    "request.timeout.ms":"310000"

    "offset.flush.interval.ms":"5000"

    "heartbeat.interval.ms":"60000"

    "session.timeout.ms":"300000

    "max.poll.records":"100"

    【讨论】:

    • 非常感谢 Gaurav。我错过了 logs.dir 属性。运行良好,现在能够流式传输数据。
    • 不是consumer.max.poll.records 而不是max.poll.records 吗?
    猜你喜欢
    • 2019-01-21
    • 2020-05-29
    • 2018-12-29
    • 2019-07-10
    • 2017-01-08
    • 2019-06-17
    • 2019-02-23
    • 2017-04-07
    • 2020-05-13
    相关资源
    最近更新 更多