【问题标题】:Creating CSV connector for Kafka Connect为 Kafka Connect 创建 CSV 连接器
【发布时间】:2019-02-02 19:28:07
【问题描述】:

我打算编写自己的 Kafka 连接 CSV 连接器,该连接器将从 CSV 文件中读取数据并将数据写入主题。数据应以 JSON 的形式写入主题。

我还遇到了 kafka-connect-spooldir 的 confluent 插件。我不想使用它并自己编写。

谁能建议我如何为它创建一个连接器?

【问题讨论】:

  • 注意:spooldir 是由 Confluent 员工编写的,但不受他们的支持。此外,您不能只分叉该代码,删除您认为不需要的所有内容,然后重做。这样,你就有了一个起点
  • 如果其他人也在寻找连接器来读取 CSV 文件:github.com/streamthoughts/kafka-connect-file-pulse

标签: java apache-kafka apache-kafka-connect


【解决方案1】:

Kafka 官方文档有一个section on Connector development,所以这可能是最好的第一站。

Kafka 还附带文件连接器(Source 和 Sink)。看代码:https://github.com/apache/kafka/tree/trunk/connect/file/src/main/java/org/apache/kafka/connect/file

根据您的用例修改这些应该不会太难。

最后,正如您所提到的,已经有可以读取 CSV 文件并且是开源的连接器。因此,如果您遇到问题,可以检查他们是如何做到的。

【讨论】:

    猜你喜欢
    • 2020-06-05
    • 2020-07-01
    • 2021-01-13
    • 2019-06-17
    • 2020-08-05
    • 2017-04-20
    • 2021-11-11
    • 2019-09-06
    • 2019-04-24
    相关资源
    最近更新 更多