【问题标题】:How to set primary key into message by Kafka JDBC Connector如何通过 Kafka JDBC 连接器将主键设置为消息
【发布时间】:2020-10-19 21:41:32
【问题描述】:

如题,有办法设置Kafka JDBC Source连接器从数据库读取的记录的主键吗?

这是来自connect-file-source.properties的配置

name=jdbc_source_postgres_foobar_01
connector.class=io.confluent.connect.jdbc.JdbcSourceConnector
key.converter=org.apache.kafka.connect.json.JsonConverter
value.converter=org.apache.kafka.connect.json.JsonConverter
connection.url=jdbc:postgresql://localhost:5432/db?user=postgres&password=root
table.whitelist=author
mode=timestamp+incrementing
incrementing.column.name=id
timestamp.column.name=entity_modify_date
validate.non.null=false
topics=migration
topic.prefix=

是否有符合我要求的属性?

【问题讨论】:

    标签: apache-kafka apache-kafka-connect


    【解决方案1】:

    可以通过Kafka Connect SMT来实现,尝试添加如下配置:

    transforms=createKey,extractInt
    transforms.createKey.type=org.apache.kafka.connect.transforms.ValueToKey
    transforms.createKey.fields=id
    transforms.extractInt.type=org.apache.kafka.connect.transforms.ExtractField$Key
    transforms.extractInt.field=specialization_id
    

    【讨论】:

      猜你喜欢
      • 2018-11-30
      • 1970-01-01
      • 2020-09-02
      • 2020-08-08
      • 2019-07-26
      • 2018-05-01
      • 1970-01-01
      • 2015-03-22
      • 2019-11-15
      相关资源
      最近更新 更多