【发布时间】:2021-05-13 08:03:39
【问题描述】:
在调试 TEZ/SPARK/MR 作业时,我可以在 YARN UI 中看到以下作业详细信息。
由于显示 1815% 的使用率,有人请帮我了解 % of Queue 和 % of Cluster stats 吗?
【问题讨论】:
标签: apache-spark hadoop hadoop-yarn cloudera apache-tez
在调试 TEZ/SPARK/MR 作业时,我可以在 YARN UI 中看到以下作业详细信息。
由于显示 1815% 的使用率,有人请帮我了解 % of Queue 和 % of Cluster stats 吗?
【问题讨论】:
标签: apache-spark hadoop hadoop-yarn cloudera apache-tez
% of cluster is stat,它告诉你你的工作从集群中占用了多少资源。
% of queue 告诉您,您的查询占用了多少绝对配置容量。
例子:
您的集群有 1000GB 内存和两个队列。 QueueA 的绝对配置容量为 1%,最大容量为 100%。 QueueB 的绝对配置容量为 99%,最大容量为 100%。
如果您在 queueA 中运行查询,则可以保证您获得至少 10GB 的内存,但根据集群负载,您最多可以获得 1000GB 的内存。
这意味着当您在 queueA 中运行查询并获得 20GB 内存时,您将使用 200% 的队列,但 2% 的集群。
【讨论】: