【问题标题】:How to deploy Kafka connector on AWS with auto-scale group如何使用自动缩放组在 AWS 上部署 Kafka 连接器
【发布时间】:2022-01-17 19:18:07
【问题描述】:

如果我们想在分布式模式下设置 Kafka 连接器,我们需要在 CONNECT_REST_ADVERTISED_HOST_NAME 处拥有一个唯一的主机名。但是,如果我们使用自动扩展组在 AWS 上部署连接器,则没有已知的主机名,不知道如何进行设置?

【问题讨论】:

    标签: apache-kafka-connect aws-auto-scaling


    【解决方案1】:

    您可以使用预先创建的 EC2 实例中的以下步骤来实现此场景。

    1。配置rest.advertised.host.name属性connect-distributed.properties文件

    rest.advertised.host.name=主机名

    2。创建kafka-connect.service文件

    nano /etc/systemd/system/kafka-connect.service

    [Unit]
    Description=Kakfka-connect
    After=network.target
    
    [Service]
    User=ubuntu
    Group=ubuntu
    Environmet="KAFKA_HEAP_OPTS=-Xmx4G -Xms2G"
    Environment="KAFKA_OPTS=-javaagent:/home/ubuntu/prometheus/jmx_prometheus_javaagent-0.16.1.jar=8080:/home/ubuntu/prometheus/kafka-connect.yml"
    ExecStart=/home/ubuntu/kafka/kafka_2.13-2.7.0/bin/connect-distributed.sh /home/ubuntu/config/connect-distributed.properties
    
    [Install]
    WantedBy=multi-user.target
    

    3.现在拍摄此 EC2 实例的卷的快照。

    4。创建启动配置

    使用快照作为卷。并使用以下用户数据。

    #!/bin/bash
    
    apt-get update
    apt-get -y upgrade
    sed -i "s/hostname/$(hostname -I)/g" /home/ubuntu/config/connect-distributed.properties
    systemctl start kafka-connect
    systemctl enable kafka-connect
    

    当新实例从 Auto-scaling 组启动时,sed 命令会将 rest.advertised.host.name 的 connect-distributed.properties 文件中的“主机名”字符串替换为实例的私有 IP。

    【讨论】:

    • 你好,但是预先创建的 EC2 实例不是自动扩展的,不是吗?不是自动修复吗?
    • 预创建的 EC2 实例用于配置目的(您必须配置此实例,并将其卷快照用于自动扩展实例),此预创建的 EC2 实例不会成为 auto 的一部分-缩放组。
    • 谢谢,有这行:[sed -i "s/hostname/$(hostname -I)/g" /home/ubuntu/config/connect-distributed.properties],请问sed在创建自动缩放主机之前运行命令?配置文件会在构建时更新,然后自动缩放组会旋转一个使用过时配置的新实例吗?
    • 该行在 EC2 实例的用户数据中,基本上用户数据是启动 EC2 实例后执行的文件。简而言之,这个 sed 命令将在您的新 EC2 实例创建后运行。 (我正在使用相同的方法使用自动缩放组来缩放 kafka-connect 服务)
    • @carfield,这个答案是否帮助您解决了问题,或者您在实施此问题时遇到了问题。如果是,请告诉我,我会相应地更新我的答案。
    猜你喜欢
    • 2020-03-31
    • 2020-04-22
    • 2021-09-20
    • 1970-01-01
    • 2018-08-18
    • 2019-08-29
    • 2022-01-11
    • 2022-01-12
    • 2021-11-22
    相关资源
    最近更新 更多