【发布时间】:2016-12-26 20:09:28
【问题描述】:
我正在尝试使用带有 HDFS Sink 连接器的 Kafka-Connect 流式传输数据。 Standalone 和 Distributed 模式都运行良好,但它只写入 HDFS 一次(基于刷新大小)并且以后不会流式传输。如果我遗漏了什么,请帮忙。
融合 2.0.0 和 Kafka 0.9.0
【问题讨论】:
标签: apache-kafka confluent-platform apache-kafka-connect
我正在尝试使用带有 HDFS Sink 连接器的 Kafka-Connect 流式传输数据。 Standalone 和 Distributed 模式都运行良好,但它只写入 HDFS 一次(基于刷新大小)并且以后不会流式传输。如果我遗漏了什么,请帮忙。
融合 2.0.0 和 Kafka 0.9.0
【问题讨论】:
标签: apache-kafka confluent-platform apache-kafka-connect
我很久以前就遇到过这个问题。只需检查以下参数是否丢失
Connect-hdfs-sink 属性
"logs.dir":"/hdfs_directory/data/log"
"request.timeout.ms":"310000"
"offset.flush.interval.ms":"5000"
"heartbeat.interval.ms":"60000"
"session.timeout.ms":"300000
"max.poll.records":"100"
【讨论】:
consumer.max.poll.records 而不是max.poll.records 吗?