【问题标题】:Can the empty string fields ignored in Kafka coneect sinkKafka连接接收器中忽略的空字符串字段可以吗
【发布时间】:2021-09-06 01:17:18
【问题描述】:

我正在使用 Kafka 连接将数据接收到弹性搜索中。通常,我们在坚持弹性搜索时会忽略空字段。我们可以使用 Kafka 连接做同样的事情吗?

示例输入 {"field1":"1","field2":""}

在弹性指数中 {"field1":"1"}

【问题讨论】:

  • 我建议修改您的生产者代码以不发送空字符串,而不是事后处理它们

标签: elasticsearch apache-kafka apache-kafka-connect


【解决方案1】:

在 kafka connect 中有一个术语叫做 SMT,单消息转换,它支持多种类型的功能,但没有一个能做你想做的,但是你可以写你的 SMT 做那个动作,

● 创建您的 JAR 文件。

● 安装 JAR 文件。将您的自定义 SMT JAR 文件(以及转换所需的任何非 Kafka JAR 文件)复制到 Connect 工作程序配置中 plugin.path 属性中列出的目录之一下的目录

参考进一步的说明

https://docs.confluent.io/platform/current/connect/transforms/custom.html

【讨论】:

    猜你喜欢
    • 2011-01-21
    • 1970-01-01
    • 2017-12-30
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2012-01-02
    相关资源
    最近更新 更多