【问题标题】:Apache Kafka Connect flat JSon Array to objectsApache Kafka 将平面 JSON 数组连接到对象
【发布时间】:2018-06-18 15:25:01
【问题描述】:

我正在使用 Kafka Connect 将数据从 MS SQL Server 表导入到 Apache Kafka 主题。

更改列是一个 json 数组,我想将其展平并发送多个事件。

表格记录如下所示:

id      table       change                  
-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
3       dbo.Pets    {"change":[{"OP":"UPDATE", "Id":"3", "Name":"Rufus","Type":"Cat","Number":"10482638"}, {"OP":"INSERT", "Id":"", "Name":"Misifu","Type":"Reddy","Number":"85745874"}]}

而我喜欢在主题中插入的是:

id      table       change                  
-------------------------------------------------------------------------------------------------
3       dbo.Pets    {"OP":"UPDATE", "Id":"3", "Name":"Rufus","Type":"Cat","Number":"10482638"}
3       dbo.Pets    {"OP":"INSERT", "Id":"", "Name":"Misifu","Type":"Reddy","Number":"85745874"}

有人可以帮助我吗?非常感谢:)

【问题讨论】:

  • 您使用的是哪个 Kafka Connect 连接器?
  • 所以 JDBC 连接器是从 SQL Server CDC 表中提取的?如果是这样,您可能想看看如何配置 SQL Server 的 CDC 来拆分事件。 Kafka Connect 只能执行一行 -> 一条消息。
  • 触发器在此表中插入数据更改。拆分触发器 slq 代码中的事件是我所做的方法。非常感谢:)
  • 请在下面用您的解决方案回答您自己的问题

标签: apache-kafka apache-kafka-connect


【解决方案1】:

解决办法是把消息分解成适当格式的sql触发器,别无选择。谢谢大家:)

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2013-06-13
    • 1970-01-01
    • 2017-08-17
    • 1970-01-01
    • 2017-11-22
    • 2020-11-15
    • 1970-01-01
    相关资源
    最近更新 更多