【问题标题】:Hadoop not communicating with resourcemanagerHadoop 不与资源管理器通信
【发布时间】:2014-09-07 02:35:40
【问题描述】:

您好,目前我正在运行 hadoop 2.4.1。我使用eclipse创建了一个简单的java程序DefaultMapperClass.java并将其打包成ex1.jar

当我尝试使用命令通过 hadoop shell 调用这个程序时,

**hadoop jar /home/Maddy/ex1.jar DefaultMapperClass hdfs://localhost/users/root/input/Hadoop.txt hdfs://localhost/users/root/output**

我在 hadoop shell 中得到以下输出

**[root@localhost Maddy]# hadoop jar /home/Maddy/ex1.jar DefaultMapperClass hdfs://localhost/users/root/input/Hadoop.txt hdfs://localhost/users/root/output
14/09/05 19:26:35 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
Job started: Fri Sep 05 19:26:35 CDT 2014
14/09/05 19:26:35 INFO client.RMProxy: Connecting to ResourceManager at localhost/127.0.0.1:8032
[root@localhost Maddy]#** 

好像hadoop shell正在尝试连接资源管理器但不成功但没有错误消息

mapred-site.xml 文件:

**<configuration>
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>
</configuration>**

yarn-site.xml:

**<configuration>
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>
<property>
  <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
  <value>org.apache.hadoop.mapred.ShuffleHandler</value>
 </property>
<property>
<name>yarn.resourcemanager.address</name>
<value>localhost:8032</value>
</property>
<property>
<name>yarn.resourcemanager.scheduler.address</name>
<value>localhost:8030</value>
</property>
<property>
<name>yarn.resourcemanager.resource-tracker.address</name>
<value>localhost:8031</value>
</property>
</configuration>**

这里缺少什么?为什么在尝试连接资源管理器后会终止执行?

【问题讨论】:

    标签: hadoop


    【解决方案1】:

    我建议从yarnsite.xml 中删除以下配置,因为它们是不必要的:

    <property>
    <name>yarn.resourcemanager.address</name>
    <value>localhost:8032</value>
    </property>
    <property>
    <name>yarn.resourcemanager.scheduler.address</name>
    <value>localhost:8030</value>
    </property>
    <property>
    <name>yarn.resourcemanager.resource-tracker.address</name>
    <value>localhost:8031</value>
    </property>
    

    您可以在 localhost:8088 访问资源管理器

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2015-04-15
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2020-04-07
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多