【问题标题】:Hadoop namenode rejecting connections!? What am I doing wrong?Hadoop名称节点拒绝连接!?我究竟做错了什么?
【发布时间】:2011-09-15 06:45:31
【问题描述】:

我的配置:

服务器级机器集群(4 台机器),每台机器配备 RHEL、8GB RAM、四核处理器。 我将机器“B1”设置为主机,其余机器设置为从机(B2、B3、B4)。启动 dfs-start.sh,名称节点出现在 B1 的 53410 上。其余节点无法连接到 53410 上的 B1!

这是我到目前为止所做的:

  1. 从 B2、B3、B4 尝试了“telnet B1 53410” - 连接被拒绝。
  2. 尝试 ssh 从 B2、B3、B4 到 B1,反之亦然 - 没问题,工作正常。
  3. 将 53410 更改为 55410,重新启动 dfs,同样的问题 - 此端口上的连接也被拒绝。
  4. 在 B1 上禁用防火墙(iptables 停止) - 尝试从 B2、B3、B4 连接 - 在 telnet 上失败。
  5. 已禁用所有节点上的防火墙,再次尝试,再次无法连接到 53410。
  6. 检查 ftp 从 B2、B3、B4 到 B1 工作,停止 ftp 服务(服务 vsftpd 停止),尝试在标准 ftp 端口 (21) 上启动 dfs,namenode 启动,其余节点再次失败。甚至无法从 B2、B3、B4 telnet 到 ftp 端口。
  7. "telnet localhost 53410" 在 B1 上运行良好。

所有节点都可以相互访问,并且所有 /etc/hosts 都设置了正确的 IP 地址映射。所以,在这一点上我几乎一无所知。为什么namenode会拒绝连接-hadoop conf中是否有一个设置,我应该知道允许外部客户端在namenode端口上远程连接?

【问题讨论】:

  • 你能把错误信息贴出来吗?

标签: java linux hadoop port rhel


【解决方案1】:

以前的答案对我来说不是很清楚。 基本上每个 hadoop 服务器(node 或 namenode)都会创建一个服务器并监听与其查找名称关联的 IP。

假设你有 3 个盒子(box1、box2、box3),/etc/hosts 文件应该如下所示:

127.0.0.1 localhost
192.168.10.1 box1
192.168.10.2 box2
192.168.10.3 box3

而不是:

127.0.0.1 localhost box1
192.168.10.2 box2
192.168.10.3 box3
//(this is incorrect, box one will be listening exclusively on 127.0.0.1)

【讨论】:

  • 我正是遇到了这个问题。我可以远程登录到主节点上的端口,但不能从从节点。我知道这不是防火墙问题。然后我终于找到了这个帖子,我的烦恼就结束了。
  • 请注意,此问题的症状是:File jobtracker.info could only be replicated on to 0 nodes instead of 1。将日志消息添加到帖子 [stackoverflow.com/questions/9987033/… 没有未能联系 namenode 作为此错误的可能原因。
【解决方案2】:

修复了这个.. 这是我的 /etc/hosts 中的错误条目。所有节点都在环回连接到主节点。

【讨论】:

  • 您的主机是否被偶然设置为 127.0.1.1?似乎是一个常见的 hadoop 配置问题。
【解决方案3】:

尝试更改 conf/core-site.xml

<property>
  <name>fs.default.name</name>
  <value>hdfs://localhost:54310</value>
</property>

从本地主机到你的机器名?

【讨论】:

    【解决方案4】:

    为DataNode设置正确的文件权限:

    chmod 755 /home/svenkata/hadoop/datanode/
    

    【讨论】:

      猜你喜欢
      • 2013-08-06
      • 1970-01-01
      • 2014-01-19
      • 1970-01-01
      • 2016-07-18
      • 2021-01-20
      • 1970-01-01
      • 2019-12-23
      • 2014-06-15
      相关资源
      最近更新 更多