【问题标题】:Confluent Control Center Connect databaseConfluent 控制中心连接数据库
【发布时间】:2018-04-26 17:13:56
【问题描述】:

当我使用 Confluent Control Center 创建源连接器或接收器连接器时,它会在哪里保存与该连接器相关的设置?有可以浏览的文件吗?我们计划创建 50 多个连接器,有时我们需要将它们从一个环境复制到另一个环境,我想知道是否有一种简单的方法可以做到这一点。

【问题讨论】:

  • 顺便说一句,请为 Kafka Connect 使用正确的标签

标签: apache-kafka apache-kafka-connect confluent-platform


【解决方案1】:

分布式模式下的 Kafka Connect 使用 Kafka 主题来存储配置。

Kafka Connect 支持 REST API。您可以使用它来查看现有连接器配置、创建新连接器(包括以编程方式/自动为 50 多个新连接器)、启动/停止连接器等。

REST API 是documented here

【讨论】:

    【解决方案2】:

    Kafka Connect 分布式模式由属性文件启动。该属性文件定义了一个“配置主题”。

    但是,您可以加载的连接器并不存储在那里 - 这仅适用于正在运行的源/接收器配置。

    类本身作为 JAR 文件捆绑在各个 Connect Workers 的类路径中,并且控制中心目前没有配置新 Connect 类的方法。换句话说,您必须使用 Ansible 之类的东西或手动连接到每个工作人员,下载所需的 Connect 类型,然后将其提取到其他连接旁边。

    例如,假设您需要 Syslog 连接器。

    在 Confluent 安装中,您已经在 usr/share/java 下有这些文件夹

    kafka-connect-hdfs 
    kafka-connect-jdbc
    ... 
    

    因此,您下载或构建该 Syslog 连接器,创建一个 kafka-connect-syslog 文件夹,然后将所有必要的 jar 库放在那里。

    对所有连接实例执行此操作后,您还需要在这些计算机上重新启动 Kafka Connect 进程。

    控制中心连接回 Connect 服务器后,您就可以配置新的 Connect 类

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2020-08-14
      • 2020-01-06
      • 2021-09-22
      相关资源
      最近更新 更多