【发布时间】:2016-05-28 13:04:22
【问题描述】:
我正在尝试学习 kafka。zookeper 服务器和 kafka 并安装在 ubuntu AWS 节点上。Zookeper 服务器与三个代理和一个消费者一起运行。我正在使用 java 客户端(kafka-clients0.9.0.1)我的 Maven 项目(在我的笔记本电脑上)将数据发送到 AWS 上的经纪人和消费者。
是否需要在我的本地系统上运行 zookeeper 和 kafka 才能连接到 aws 上的 kafka? 我的本地系统上有 Windows 10。
连接到 Kafka 集群时,代理显示以下内容> INFO 由于无效请求,正在关闭与 /xx.xx.xx.xx 的套接字连接:长度为 1195725856 的请求无效,它大于最大大小 104857600 字节。 (kafka.network.Processor)
【问题讨论】:
-
不,根本不需要。这就是客户进入画面的地方。您唯一应该拥有的就是访问 Kafka 服务器。
-
嗨,我有 zookeper 服务器(在 kafka 目录中)、三个代理和一个消费者,用于在 aws 上运行的主题。但是我的客户端代码(本地机器)无法向消费者发送数据。可能是什么问题?
-
在此处查看 Kafka Broker、Kafka Producer 和 Kafka Consumer 之间的区别:1. Kafka Broker(Server) 是保存数据的原始 Kafka 服务器 2. Kafka Producer(Client) 是发送数据的 Kafka 客户端之一到代理 3。Kafka 消费者(客户端)也是 Kafka 客户端之一,它使用来自 Kafka 代理(服务器)的数据。你能检查你的生产者是否可以访问 Kafka 吗?端口是否开放?
-
是的。我可以在那个端口上远程登录。 (telnet XX.XX.XX.XX 9042)。此外,该节点上的所有入站/出站 TCP 端口均已打开。
-
每当我尝试使用客户端连接到 kafka 时,我都会收到此错误。 INFO 由于请求无效,正在关闭到 /122.172.32.10 的套接字连接:长度为 1835863306 的请求无效,它大于最大大小 104857600 字节。 (kafka.network.Processor)
标签: amazon-web-services apache-kafka kafka-consumer-api