【问题标题】:Does Mesos Overwrite Hadoop Memory Settings?Mesos 会覆盖 Hadoop 内存设置吗?
【发布时间】:2015-12-22 14:23:23
【问题描述】:

我的公司在 mesos 上运行 hadoop,而我是 mesos 的新手。我负责的hadoop应用的限流速率是reducer任务的速度,所以我希望能玩转mesos和hadoop内存设置来加速reducer。

很遗憾,我不明白 hadoop 内存设置和 mesos 内存配置之间的关系,我怀疑 mesos 可能会覆盖我的一些 hadoop 内存设置。

更改 mapreduce.reduce.java.opts 或 mapreduce.reduce.memory.mb(在 /etc/hadoop/conf/mapred-site.xml 中)的值是否受 mesos 影响? mesos 会限制我可以分配给 reducer 的内存量吗?

如果是这样,mesos 中的配置文件在哪里,以便我可以更改这些设置?

谢谢!

2015 年 9 月 30 日更新:

https://github.com/mesos/hadoop/blob/master/configuration.md 的文件列出了您可以放入 mapred-site.xml 文件中的参数。

我仍然不确定这些参数如何影响 mapred-site.xml 中与内存相关的 hadoop 配置参数。

【问题讨论】:

    标签: hadoop memory-management mesos mapper reducers


    【解决方案1】:

    配置在相应的 GitHub 存储库mesos/hadoop 中进行了描述。

    【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2011-04-20
    • 2013-05-25
    • 2018-06-21
    • 1970-01-01
    • 2011-11-04
    • 1970-01-01
    • 2013-02-21
    相关资源
    最近更新 更多