【发布时间】:2016-09-13 00:02:10
【问题描述】:
是的,我想在每个 hadoop 节点上运行我的自定义程序。 我想部署 No mapper 和 reducer。 它就像分布式计算系统,不像 mapreduce 那样工作(但在内部使用 hdfs)。 我该怎么办?
【问题讨论】:
标签: hadoop mapreduce distributed-computing
是的,我想在每个 hadoop 节点上运行我的自定义程序。 我想部署 No mapper 和 reducer。 它就像分布式计算系统,不像 mapreduce 那样工作(但在内部使用 hdfs)。 我该怎么办?
【问题讨论】:
标签: hadoop mapreduce distributed-computing
MapReduce 和 Tez 作业都使用 YARN(Yet Another Resource Negotiator)在所谓的容器中的集群上进行分发和执行。您也可以自己使用 YARN 来运行自己的作业。请查看Hadoop Architecture Overview 以获得高级概述。
【讨论】:
如果你不想使用 map reduce,你可以使用 Apache tez https://tez.apache.org。你只需要像在 MR 中一样在 Apache yarn 上安装 Apache tez。
【讨论】: