【问题标题】:What is difference between YARN and hive2 queues?YARN 和 hive2 队列有什么区别?
【发布时间】:2017-04-27 02:51:17
【问题描述】:
yarn.scheduler.capacity.root.queues 和 hive.server2.tez.default.queues 有什么区别?
【问题讨论】:
-
嗨@ShwethaJog,如果以下答案中的任何答案都解决了您的问题,请单击复选标记考虑accepting it。这向更广泛的社区表明您已经找到了解决方案,并为回答者和您自己提供了一些声誉。没有义务这样做。
标签:
hive
hadoop-yarn
scheduler
capacity
【解决方案1】:
简而言之:
hive.server2.tez.default.queues 值是
yarn.scheduler.capacity.root.queues(如果在 YARN 中配置了容量调度器,如果没有其他调度器)值。
详细回答:
hive.server2.tez.default.queues:(默认:空)
与 YARN 队列对应的逗号分隔值列表
一样的名字。当 HiveServer2 在 Tez 模式下启动时,这
需要为多个 Tez 会话设置配置才能在其中运行
在集群上并行。
这并不意味着查询不能发送给其他“现有”
在容量调度程序中定义的队列。 source
yarn.scheduler.capacity.root.queues:
CapacityScheduler 有一个名为 root 的预定义队列。系统中的所有队列都是子队列
的根队列。可以通过配置设置更多队列
带有逗号分隔列表的 yarn.scheduler.capacity.root.queues
子队列。 source, setting up capacity scheduler
因此,hive.server2.tez.default.queues 的范围仅限于 Hive 查询,但yarn.scheduler.capacity.root.queues 的范围将适用于集群中使用 YARN 作为资源管理器的所有组件(如 MapReduce 和 Spark)。