【问题标题】:Could a Resource Manager and Node Manager in the same node? [MapR]资源管理器和节点管理器可以在同一个节点中吗? [地图R]
【发布时间】:2017-07-17 13:36:37
【问题描述】:

我们有一个节点,其中资源管理器和节点管理器都在运行。这是推荐的吗?

【问题讨论】:

  • 当您在伪分布式模式下运行 hadoop 时,所有守护进程都在同一台机器上运行,但在不同的 JVM 中。所以是的,您可以在同一台机器上运行 RM 和 NM。当您拥有完整的集群时,不建议这样做,因为最好将它们放在单独的机器上以避免故障等。但您也可以在集群中的单台机器上运行它们。
  • @philantrovert 谢谢你的回答。我们有一个由 8 个节点组成的集群,并且在 Yarn 上的某些作业的排除方面存在一些问题(它们花费了太多时间并且停止了其他作业的处理)。您认为在同一台机器上运行 NM 和 RM 是导致此问题的原因吗?谁建议单独使用 RM 和 NM ?这是来自分布还是只是要遵循的规则?

标签: hadoop hadoop-yarn mapr


【解决方案1】:

资源管理器和节点管理器可以在同一节点上运行只要它有足够的内存。如果您分配给这两个服务的内存加上您分配给该节点上运行的其余服务和守护程序的内存超过了主机的内存,您可能会触发 OOME 并让应用程序被 Linux OOM 杀手杀死。

对于大多数发行版,这不是推荐的做法。在不同的节点上运行 RM 和 NM 可以提供更好的内存和 CPU 隔离。 NM 特别将工作分配给容器,这些容器需要内存,因此如果您通过用完所有内存来运行服务而超额订阅节点,那么您将没有任何内存来运行容器。

http://www.oracle.com/technetwork/articles/servers-storage-dev/oom-killer-1911807.html

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2014-01-04
    • 2012-09-01
    • 2014-03-31
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多