【问题标题】:Kafka Clients jar JAVAKafka 客户端 jar JAVA
【发布时间】:2016-05-28 13:04:22
【问题描述】:

我正在尝试学习 kafka。zookeper 服务器和 kafka 并安装在 ubuntu AWS 节点上。Zookeper 服务器与三个代理和一个消费者一起运行。我正在使用 java 客户端(kafka-clients0.9.0.1)我的 Maven 项目(在我的笔记本电脑上)将数据发送到 AWS 上的经纪人和消费者。

是否需要在我的本地系统上运行 zookeeper 和 kafka 才能连接到 aws 上的 kafka? 我的本地系统上有 Windows 10。

连接到 Kafka 集群时,代理显示以下内容> INFO 由于无效请求,正在关闭与 /xx.xx.xx.xx 的套接字连接:长度为 1195725856 的请求无效,它大于最大大小 104857600 字节。 (kafka.network.Processor)

【问题讨论】:

  • 不,根本不需要。这就是客户进入画面的地方。您唯一应该拥有的就是访问 Kafka 服务器。
  • 嗨,我有 zookeper 服务器(在 kafka 目录中)、三个代理和一个消费者,用于在 aws 上运行的主题。但是我的客户端代码(本地机器)无法向消费者发送数据。可能是什么问题?
  • 在此处查看 Kafka Broker、Kafka Producer 和 Kafka Consumer 之间的区别:1. Kafka Broker(Server) 是保存数据的原始 Kafka 服务器 2. Kafka Producer(Client) 是发送数据的 Kafka 客户端之一到代理 3。Kafka 消费者(客户端)也是 Kafka 客户端之一,它使用来自 Kafka 代理(服务器)的数据。你能检查你的生产者是否可以访问 Kafka 吗?端口是否开放?
  • 是的。我可以在那个端口上远程登录。 (telnet XX.XX.XX.XX 9042)。此外,该节点上的所有入站/出站 TCP 端口均已打开。
  • 每当我尝试使用客户端连接到 kafka 时,我都会收到此错误。 INFO 由于请求无效,正在关闭到 /122.172.32.10 的套接字连接:长度为 1835863306 的请求无效,它大于最大大小 104857600 字节。 (kafka.network.Processor)

标签: amazon-web-services apache-kafka kafka-consumer-api


【解决方案1】:

通过在代理正在使用的 server.properties 文件中创建两个新条目来解决问题。

advertised.host.name = PublicIP(AWS 节点)

advertised.port=9092

【讨论】:

  • 您在添加之前是否配置了“host.name”和“port”属性?
猜你喜欢
  • 1970-01-01
  • 2023-03-03
  • 2022-10-18
  • 2017-04-03
  • 1970-01-01
  • 2017-10-10
  • 1970-01-01
  • 2019-12-30
  • 2016-12-18
相关资源
最近更新 更多