CDH 配置mapreduce.cluster.local.dir

在CDH中如何修改mapreduce.cluster.local.dir参数
环境:CDH5.16
mapreduce.cluster.local.dir参数决定了shuffle产生的spill文件的存储路径
之前没改这个参数,运行个1T的排序把从节点/目录磁盘写爆了.改了后就没问题了

对于MR1,在CM中搜索以下配置:

TaskTracker本地数据目录
mapred.local.dir

对于带有MR2的YARN, 在CM中搜索以下配置:

NodeManager本地目录
yarn.nodemanager.local-dirs
CDH 配置mapreduce.cluster.local.dir

希望有帮助!

相关文章:

  • 2021-07-07
  • 2021-06-25
  • 2022-12-23
  • 2021-05-31
  • 2021-07-19
猜你喜欢
  • 2021-11-13
  • 2022-12-23
  • 2021-09-13
  • 2021-10-27
  • 2021-06-08
  • 2021-11-06
  • 2021-08-18
相关资源
相似解决方案