【发布时间】:2019-04-12 07:23:13
【问题描述】:
我一直在尝试将数据从 SQL 服务器(启用更改跟踪)加载到 Kafka,以便一个或多个系统(报告、其他数据库等)使用它
我已经设法为 sql server(confluentinc/kafka-connect-cdc-mssql:1.0.0-preview) 配置了 Kafka 连接插件,并且我还设法在 kafka 机器上启动了它。
我一直在寻找有助于回答以下问题的文档(找不到任何文档)
- 如何将 kafka 主题与此连接相关联?
- 根据我发现的信息(在 debezium 论坛上),将为每个单独的表创建一个主题 --> 它与 kafka sql server 连接器的工作方式相同吗?
- 我已将连接配置为分布式模式,我们在多台服务器上运行 kafka,是否需要在每台服务器上运行连接?
- 有没有人使用 Debezium 与 sql server 更改跟踪和 kafka ? Debezium 的网站描述了“alpha 阶段”的连接,我想知道是否有任何活跃用户。
PS:我也愿意使用其他选项将实时数据从 sql server 加载到 Kafka(带有时间戳/数字字段的 jdbc 连接是我的备份选项。备份选项,因为我的源数据库中有一些表可以不包含此类字段[更改不是也不能使用数字/时间戳字段进行跟踪])。
【问题讨论】:
-
理想情况下,您不应在实际的 Kafka Broker 服务器上运行 Kafka Connect
-
在 4 上,Debezium SQL Server 连接器不是基于更改跟踪,而是基于 CDC 功能。
标签: sql-server apache-kafka apache-kafka-connect cdc debezium