【问题标题】:In Hadoop, How can I find which slave node is executing an attempt N?在 Hadoop 中,如何找到哪个从节点正在执行尝试 N?
【发布时间】:2015-05-22 09:35:10
【问题描述】:

我使用的是 Hadoop 1.2.1,但我的 hadoop 应用程序无法执行 Reduce。从 Hadoop 运行中,我看到如下消息:

15/05/22 18:14:15 INFO mapred.JobClient:  map 0% reduce 0% 15/05/22
18:14:25 INFO mapred.JobClient:  map 100% reduce 0% 15/05/22 18:24:25
INFO mapred.JobClient:  map 0% reduce 0% 15/05/22 18:24:26 INFO
mapred.JobClient: Task Id : attempt_201505221804_0013_m_000000_0,
Status : FAILED Task attempt_201505221804_0013_m_000000_0 failed to
report status for 600 seconds. Killing! 15/05/22 18:24:35 INFO
mapred.JobClient:  map 100% reduce 0%

我想看attempt_201505221804_0013_m_000000_0的日志,但是找不到哪个slave执行了attempt_201505221804_0013_m_000000_0.太费时间了

有人告诉我使用 Hadoop 网页来查找它,但该集群上有一些防火墙,我无法更改选项,因为该集群根本不属于我们的团队。

有什么方法可以找到执行此尝试的位置吗?

【问题讨论】:

    标签: hadoop


    【解决方案1】:

    您应该能够在默认位于HADOOP_HOME/logs 下的jobtracker 日志中找到此信息。这将包含与此类似的条目:

    INFO org.apache.hadoop.mapred.JobTracker: Adding task (MAP) 'attempt_201503262103_0001_m_000000_0' to tip task_201503262103_0001_m_000000, for tracker 'host'

    您可以在文件中搜索特定的尝试 ID。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2011-09-16
      • 2018-11-18
      • 1970-01-01
      • 2014-04-09
      • 2019-08-05
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多