Kafka 快速入门，advertized.host.name 给出 kafka.common.LeaderNotAvailableException答案

【问题标题】：Kafka QuickStart, advertised.host.name gives kafka.common.LeaderNotAvailableExceptionKafka 快速入门，advertized.host.name 给出 kafka.common.LeaderNotAvailableException
【发布时间】：2015-09-02 01:15:44
【问题描述】：

我能够在一台 linux 机器上本地运行一个简单的单节点 Kafka (kafka_2.11-0.8.2.1)，但是当我尝试远程运行生产者时，我遇到了一些令人困惑的错误。

我正在关注http://kafka.apache.org/documentation.html#quickstart 上的快速入门指南。我停止了 kafka 进程并删除了 /tmp 中的所有 zookeeper 和 karma 文件。我在本地 10.0.0.0/24 网络上使用外部 IP 地址进行 NAT，因此我修改了server.properties 以告诉 Zookeeper 如何广播我的外部地址，按照https://medium.com/@thedude_rog/running-kafka-in-a-hybrid-cloud-environment-17a8f3cfc284：

advertised.host.name=MY.EXTERNAL.IP

然后我运行这个：

$ bin/zookeeper-server-start.sh config/zookeeper.properties
--> ...
$ export KAFKA_HEAP_OPTS="-Xmx256M -Xms128M" # small test server!
$ bin/kafka-server-start.sh config/server.properties
--> ...

我在远程机器上为我的生产者打开了防火墙，并创建了一个新主题并进行了验证：

$ bin/kafka-topics.sh --create --zookeeper MY.EXTERNAL.IP:2181 --replication-factor 1 --partitions 1 --topic test123
--> Created topic "test123".
$ bin/kafka-topics.sh --list --zookeeper MY.EXTERNAL.IP:2181
--> test123

但是，我远程运行的生产者给了我错误：

$ bin/kafka-console-producer.sh --broker-list MY.EXTERNAL.IP:9092 --topic test123
--> [2015-06-16 14:41:19,757] WARN Property topic is not valid (kafka.utils.VerifiableProperties)
My Test Message
--> [2015-06-16 14:42:43,347] WARN Error while fetching metadata [{TopicMetadata for topic test123 ->

由于 kafka.common.LeaderNotAvailableException}，主题 [test123] 没有主题 test123 的分区元数据：类 kafka.common.LeaderNotAvailableException (kafka.producer.BrokerPartitionInfo) -->（重复多次）

（我禁用了整个防火墙以确保这不是问题。）

karma-startup 中的 stdout 错误重复出现：[2015-06-16 20:42:42,768] INFO Closing socket connection to /MY.EXTERNAL.IP. (kafka.network.Processor)

controller.log 多次给了我这个：

java.nio.channels.ClosedChannelException
    at kafka.network.BlockingChannel.send(BlockingChannel.scala:100)
    at kafka.controller.RequestSendThread.liftedTree1$1(ControllerChannelManager.scala:132)
    at kafka.controller.RequestSendThread.doWork(ControllerChannelManager.scala:131)
    at kafka.utils.ShutdownableThread.run(ShutdownableThread.scala:60)
[2015-06-16 20:44:08,128] INFO [Controller-0-to-broker-0-send-thread], Controller 0 connected to id:0,host:MY.EXTERNAL.IP,port:9092 for sending state change requests (kafka.controller.RequestSendThread)
[2015-06-16 20:44:08,428] WARN [Controller-0-to-broker-0-send-thread], Controller 0 epoch 1 fails to send request Name:LeaderAndIsrRequest;Version:0;Controller:0;ControllerEpoch:1;CorrelationId:7;ClientId:id_0-host_null-port_9092;Leaders:id:0,host:MY.EXTERNAL.IP,port:9092;PartitionState:(test123,0) -> (LeaderAndIsrInfo:(Leader:0,ISR:0,LeaderEpoch:0,ControllerEpoch:1),ReplicationFactor:1),AllReplicas:0) to broker id:0,host:MY.EXTERNAL.IP,port:9092. Reconnecting to broker. (kafka.controller.RequestSendThread)

运行这个好像说明0时有leader：

$ ./bin/kafka-topics.sh --zookeeper MY.EXTERNAL.IP:2181 --describe --topic test123
--> Topic:test123   PartitionCount:1    ReplicationFactor:1 Configs:
Topic: test123  Partition: 0    Leader: 0   Replicas: 0 Isr: 0

我重新运行了这个测试，我的 server.log 表明在 0 有一个领导者：

...
[2015-06-16 21:58:04,498] INFO 0 successfully elected as leader (kafka.server.ZookeeperLeaderElector)
[2015-06-16 21:58:04,642] INFO Registered broker 0 at path /brokers/ids/0 with address MY.EXTERNAL.IP:9092. (kafka.utils.ZkUtils$)
[2015-06-16 21:58:04,670] INFO [Kafka Server 0], started (kafka.server.KafkaServer)
[2015-06-16 21:58:04,736] INFO New leader is 0 (kafka.server.ZookeeperLeaderElector$LeaderChangeListener)

当我从生产者发送消息时，我在日志中看到此错误：

[2015-06-16 22:18:24,584] ERROR [KafkaApi-0] error when handling request Name: TopicMetadataRequest; Version: 0; CorrelationId: 7; ClientId: console-producer; Topics: test123 (kafka.server.KafkaApis)
kafka.admin.AdminOperationException: replication factor: 1 larger than available brokers: 0
    at kafka.admin.AdminUtils$.assignReplicasToBrokers(AdminUtils.scala:70)

我认为这意味着由于某种原因找不到经纪人？我很困惑这意味着什么......

【问题讨论】：

我以前有过这个。我们将主题的复制因子设置为 3，并有 3 个代理，但是我们的一个代理无法正常工作，因为我们不小心给了它与其他代理相同的代理 ID。我们更改了代理 ID 并重新启动，这解决了问题。
@JonHunter 这很奇怪，因为我只有一个经纪人和一个主题。我昨晚在 EC2 上以相同的方式进行了设置，以查看它是否与我的托管设置有关，但我也有同样的错误。
好的，我终于弄明白了——这是我自己愚蠢的防火墙/路由错误。问题是我没有明确允许zookeeper通过外部IP地址访问代理，即使它在同一台机器上。因此，当“advertised.host.name”未配置时，它工作正常，因为 Zookeeper 使用的是 localhost。这意味着我可以很好地从远程客户端连接到服务器和 Zookeeper，但它没有在内部通信。唉，至少我学到了很多关于 kafka 的知识。
感谢您的帮助，顺便说一句。不过，我确实确认使用“0”的经纪人是可行的。
欢迎来到 Kafka 的世界，到目前为止，我了解到这一切都是关于反复试验的，因为网络上的支持文档非常少！

标签： apache-kafka

【解决方案1】：

对于最新版本的 Kafka（撰写本文时为 0.10.0），您根本不想使用 advertised.host.name。事实上，即使 [documentation] 声明 advertised.host.name 已被弃用。此外，Kafka 不仅将其用作生产者/消费者的“广告”主机名，而且还用于其他代理（在多代理环境中）......这是一种如果您为代理使用不同的（可能是内部的）DNS 会很痛苦……而且您真的不想涉足向代理的个人/etc/hosts 添加条目的业务（ew！）

因此，基本上，您希望代理使用内部名称，但仅对生产者和消费者使用外部 FQDN。为此，您将改为更新 advertised.listeners。

【讨论】：

【解决方案2】：

将 Advertisementd.host.name 设置为主机 name，而不是 IP 地址。默认是使用 getCanonicalHostName() 返回一个 FQDN，但这只是尽力而为，并回退到一个 IP。请参阅java docs for getCanonicalHostName()。

诀窍是让该主机名始终解析为正确的 IP。对于小型环境，我通常在 /etc/hosts 中设置所有主机及其所有内部 IP。这样，所有机器都知道如何通过名称通过内部网络相互交谈。事实上，现在也可以按名称配置您的 Kafka 客户端，而不是按 IP。如果管理所有 /etc/hosts 文件是一种负担，那么设置一个内部 DNS 服务器来集中它，但是内部 DNS 应该返回内部 IPs。这些选项中的任何一个都应该比将 IP 地址分散在各种机器上的各种配置文件中更有效。

一旦一切都通过名称进行通信，剩下的就是使用外部 IP 配置外部 DNS，一切正常。这包括使用服务器名称而不是 IP 配置 Kafka 客户端。

【讨论】：

【解决方案3】：

总而言之，解决这个问题的方法是通过 NAT 添加路由，以便机器可以访问自己的外部 IP 地址。

Zookeeper 使用它在 Advertisementd.host.name 中找到的地址来告诉客户端在哪里可以找到代理以及与代理本身进行通信。报告的错误并没有说明这一点，而且令人困惑，因为客户端打开 TCP 连接没有问题。

【讨论】：

如果您使用多个代理（= 多个 kafka 容器在同一个广告主机名后面运行），这会起作用吗？

【解决方案4】：

从上面得到提示：对于我的单个节点（仍在学习），我将 server.properties 文件中的文本 "advertised.host.name" 修改为 value=127.0.01。所以最后它看起来像这样

advertised.host.name=127.0.0.1

在启动生产者时它仍然显示警告，但现在它至少可以正常工作，而我可以看到消费者终端上的消息正在完美启动

【讨论】：

【解决方案5】：

在安装了 Kafka 的机器上，检查它是否已启动并正在运行。错误状态，0 个代理可用，这意味着 Kafka 未启动并运行。

在 linux 机器上，您可以使用 netstat 命令检查服务是否正在运行。

netstat -an|grep port_kafka_is_Listening（默认为 9092）

【讨论】：

是的，它确实在 9092 端口上运行和监听。我可以毫无问题地连接到 kafka，只是当我生成消息时它在生产者和服务器上都出现错误。在 EC2 上很容易重现此错误。

【解决方案6】：

conf/server.properties：主机名已弃用：仅在未设置 listeners 时使用。请改用listeners。经纪人的主机名。如果设置了这个，它只会绑定到这个地址。如果未设置，它将绑定到所有接口

【讨论】：