【问题标题】:% of Queue and % of Cluster difference in yarn ui for MR/TEZ/SPARK jobs run运行 MR/TEZ/SPARK 作业的纱线 ui 中的队列百分比和集群差异百分比
【发布时间】:2021-05-13 08:03:39
【问题描述】:

在调试 TEZ/SPARK/MR 作业时,我可以在 YARN UI 中看到以下作业详细信息。

由于显示 1815% 的使用率,有人请帮我了解 % of Queue 和 % of Cluster stats 吗?

【问题讨论】:

    标签: apache-spark hadoop hadoop-yarn cloudera apache-tez


    【解决方案1】:

    % of cluster is stat,它告诉你你的工作从集群中占用了多少资源。

    % of queue 告诉您,您的查询占用了多少绝对配置容量。

    例子:

    您的集群有 1000GB 内存和两个队列。 QueueA 的绝对配置容量为 1%,最大容量为 100%。 QueueB 的绝对配置容量为 99%,最大容量为 100%。

    如果您在 queueA 中运行查询,则可以保证您获得至少 10GB 的内存,但根据集群负载,您最多可以获得 1000GB 的内存。

    这意味着当您在 queueA 中运行查询并获得 20GB 内存时,您将使用 200% 的队列,但 2% 的集群。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2020-11-27
      • 1970-01-01
      • 2014-09-18
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2012-04-26
      • 1970-01-01
      相关资源
      最近更新 更多