【问题标题】:unable to see Task tracker and Jobtracker after Hadoop single node installation 2.5.1Hadoop单节点安装2.5.1后看不到Task tracker和Jobtracker
【发布时间】:2014-11-05 14:18:02
【问题描述】:

我是 Hadoop 2.5.1 的新手。由于我之前已经安装了 Hadoop 1.0.4,所以我认为安装过程会相同,所以按照以下教程进行操作。

http://www.michael-noll.com/tutorials/running-hadoop-on-ubuntu-linux-single-node-cluster/

一切都很好,即使我在 core-site.xml 中给出了这些设置

<name>fs.default.name</name>

  <value>hdfs://localhost:54310</value>

但我在几个网站上看到这个值为 9000。

还有 yarn.xml 的变化。

当我运行 mapreduce 作业时,一切正常。但我的问题是

当我运行命令 jps 时,它会给我这个输出..

hduser@secondmaster:~$ jps

5178 ResourceManager

5038 SecondaryNameNode

4863 DataNode

5301 NodeManager

4719 NameNode

6683 Jps

我没有在 jps 中看到任务跟踪器和工作跟踪器。这些恶魔跑到哪里去了。 如果没有这些守护进程,我怎么能运行 Mapreduce 作业。

谢谢,

Sreelatha K.

【问题讨论】:

    标签: hadoop


    【解决方案1】:

    从 hadoop 版本 hadoop 2.0 开始,默认处理框架已从 Classic Mapreduce 更改为 YARN。您正在使用 YARN,在 YARN 中看不到 Jobtracker、Tasker。 Jobtracker 和 Tasktracker 在 YARN 中分别被 Resource manager 和 Nodemanager 替代。

    但您仍然可以选择使用 Classic Mapreduce 框架而不是 YARN。

    【讨论】:

      【解决方案2】:

      在 Hadoop 2 中有一种替代方法来运行 MapReduce 作业,称为 YARN。由于您在 yarn.xml 中进行了更改,因此使用 YARN 进行 MapReduce 处理,而不是使用传统的 MapReduce 框架。这可能是您在执行 jps 命令后看不到 TaskTracker 和 JobTracker 的原因。请注意,ResourceManager 和 NodeManager 是 YARN 的守护进程。

      【讨论】:

        【解决方案3】:

        YARN 是下一代资源管理器,它可以与 Apache spark、storm 和更多可用于编写 map-reduce 作业的工具集成

        【讨论】:

          猜你喜欢
          • 1970-01-01
          • 1970-01-01
          • 2013-06-15
          • 1970-01-01
          • 1970-01-01
          • 1970-01-01
          • 1970-01-01
          • 1970-01-01
          • 1970-01-01
          相关资源
          最近更新 更多