【问题标题】:In hadoop, I just want to execute my own custom program on each node在hadoop中,我只想在每个节点上执行我自己的自定义程序
【发布时间】:2016-09-13 00:02:10
【问题描述】:

是的,我想在每个 hadoop 节点上运行我的自定义程序。 我想部署 No mapper 和 reducer。 它就像分布式计算系统,不像 mapreduce 那样工作(但在内部使用 hdfs)。 我该怎么办?

【问题讨论】:

    标签: hadoop mapreduce distributed-computing


    【解决方案1】:

    MapReduce 和 Tez 作业都使用 YARN(Yet Another Resource Negotiator)在所谓的容器中的集群上进行分发和执行。您也可以自己使用 YARN 来运行自己的作业。请查看Hadoop Architecture Overview 以获得高级概述。

    【讨论】:

      【解决方案2】:

      如果你不想使用 map reduce,你可以使用 Apache tez https://tez.apache.org。你只需要像在 MR 中一样在 Apache yarn 上安装 Apache tez。

      【讨论】:

        猜你喜欢
        • 1970-01-01
        • 2021-12-12
        • 2017-06-15
        • 1970-01-01
        • 2023-03-03
        • 1970-01-01
        • 1970-01-01
        • 2019-05-07
        • 2021-07-01
        相关资源
        最近更新 更多