【发布时间】:2015-12-22 14:23:23
【问题描述】:
我的公司在 mesos 上运行 hadoop,而我是 mesos 的新手。我负责的hadoop应用的限流速率是reducer任务的速度,所以我希望能玩转mesos和hadoop内存设置来加速reducer。
很遗憾,我不明白 hadoop 内存设置和 mesos 内存配置之间的关系,我怀疑 mesos 可能会覆盖我的一些 hadoop 内存设置。
更改 mapreduce.reduce.java.opts 或 mapreduce.reduce.memory.mb(在 /etc/hadoop/conf/mapred-site.xml 中)的值是否受 mesos 影响? mesos 会限制我可以分配给 reducer 的内存量吗?
如果是这样,mesos 中的配置文件在哪里,以便我可以更改这些设置?
谢谢!
2015 年 9 月 30 日更新:
https://github.com/mesos/hadoop/blob/master/configuration.md 的文件列出了您可以放入 mapred-site.xml 文件中的参数。
我仍然不确定这些参数如何影响 mapred-site.xml 中与内存相关的 hadoop 配置参数。
【问题讨论】:
标签: hadoop memory-management mesos mapper reducers