【问题标题】:unreasonable yarn cluster metrics不合理的纱线集群指标
【发布时间】:2016-02-18 11:42:48
【问题描述】:

我使用 spark 和 yarn 已经有一段时间了,而且大部分时间都掌握了所有 spark-submit 参数。我目前正在使用一个 5 节点 EMR 集群、1 个主节点和 4 个工作节点,全部为 M3.xlarge,指定为 4 个 vCore。 (实际上,当我 ssh 进入机器并检查时,实际上只有 3 个内核。)

但是,当我将工作提交到 emr 时

spark-submit --master yarn --class myclass --num-executors 9 --executor-cores 2 --executor-memory 500M my.jar 

yarn 控制台总是显示我总共有 32 个 vCore,使用了 4 个 vCore,活动节点数为 4。

所以这个 vCore 总数是一个真正的谜。怎么会有 32 个 vCore?即使计算主节点,也有 5 * 4 vCores = 20。不计算主节点,活动工作节点确实是 4。这会使总 vCore 数变为 16,而不是 32。任何人都可以解释一下吗?

【问题讨论】:

    标签: apache-spark hadoop-yarn


    【解决方案1】:

    您运行的硬件使用超线程技术。这允许每个物理核心作为两个虚拟核心工作。您的四台工作机器有 4 个物理内核,但实际上对应于 8 个虚拟内核。

    见: https://aws.amazon.com/ec2/instance-types/

    https://en.wikipedia.org/wiki/Hyper-threading

    【讨论】:

      猜你喜欢
      • 2015-09-03
      • 1970-01-01
      • 1970-01-01
      • 2014-12-17
      • 1970-01-01
      • 1970-01-01
      • 2016-10-11
      • 1970-01-01
      • 2018-02-22
      相关资源
      最近更新 更多