【问题标题】:kafka-connect on ECS timeouts when connecting to MSK连接到 MSK 时 ECS 超时的 kafka-connect
【发布时间】:2021-04-15 09:14:37
【问题描述】:

我将 kafka-connect docker 映像 (confluentinc/cp-kafka-connect-base:6.0.1) 部署到 ECS / fargate 中,为我的 ECS 服务分配了一个安全组,该安全组允许传入的 zooper keeper 和 kafka 引导服务器流量(纯文本和 TLS)以及一个 IAM 角色,允许我的 ECS 任务对 MSK 集群运行 kafka 操作,但连接集群在尝试从 MSK 集群获取代理列表时仍然超时。

kafka connect ECS 服务和 MSK 集群都在 AWS 的同一个私有子网上。

安全组代码

      "Type": "AWS::EC2::SecurityGroup",
      "Properties": {
        "GroupDescription": "kakfa-connect-sg",
        "SecurityGroupEgress": [
          {
            "CidrIp": "0.0.0.0/0",
            "Description": "Allow all outbound traffic by default",
            "IpProtocol": "-1"
          }
        ],
        "SecurityGroupIngress": [
          {
            "CidrIp": "0.0.0.0/0",
            "Description": "Kafka Bootstrap Server Plaintext",
            "FromPort": 9092,
            "IpProtocol": "tcp",
            "ToPort": 9092
          },
          {
            "CidrIp": "0.0.0.0/0",
            "Description": "Kafka Bootstrap Server TLS",
            "FromPort": 9094,
            "IpProtocol": "tcp",
            "ToPort": 9094
          },
          {
            "CidrIp": "0.0.0.0/0",
            "Description": "ZooKeeper TLS",
            "FromPort": 2182,
            "IpProtocol": "tcp",
            "ToPort": 2182
          },
          {
            "CidrIp": "0.0.0.0/0",
            "Description": "ZooKeeper Plaintext",
            "FromPort": 2181,
            "IpProtocol": "tcp",
            "ToPort": 2181
          }
        ],
        "VpcId": "vpc-id"
      }```

IAM role code

```{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Action": "kafka:*",
            "Resource": "*",
            "Effect": "Allow"
        }
    ]
}```

Is there anything i might be missing?

【问题讨论】:

  • 我的 kafka 连接集群使用 PLAIN TEXT 与 MSK 集群通信,我修复了这个问题,但由于某种原因仍然出现超时,即使我设置了 @987654323,我也无法获取 AdminClient 类的调试日志@

标签: amazon-ecs apache-kafka-connect aws-msk


【解决方案1】:

MSK 集群上的安全组设置不允许来自我的 kafka 连接集群的流量。

【讨论】:

    猜你喜欢
    • 2020-06-24
    • 2022-11-24
    • 2022-07-12
    • 2020-05-01
    • 2020-03-30
    • 2020-04-19
    • 2022-09-29
    • 2020-10-28
    • 2020-05-09
    相关资源
    最近更新 更多