【问题标题】:Impala memory configuration in clouderacloudera中的Impala内存配置
【发布时间】:2015-12-04 04:16:03
【问题描述】:

我正在尝试了解集群上的 Impala 内存设置。

我们的集群中有 48 GB 内存的主机。对于主机,当我查看 cloudera 管理器中每个服务的内存资源时,我看到为 Impala 守护进程分配了 38 Gb 的内存。 但是,在 Impala 配置中,Impala Daemon 内存限制设置为 O 。

那么,分配给 Impala Daemon 的 38GB 值在哪里?

而且我相信 Impala Daemon 内存限制是节点级别的限制,而不是集群级别的限制。对吗?

请注意,静态和动态池也未配置。

【问题讨论】:

    标签: cloudera impala


    【解决方案1】:

    如果您没有设置进程内存限制,Impala 将默认使用系统上 80% 的内存作为它的进程内存限制。 (是的,进程内存限制是每个节点的值,而不是集群范围的值。)

    请注意,这并不意味着 80% 的系统内存实际上是可用的,而是 Impala 会将自身限制为 80% 的内存。这意味着如果您有其他进程使用该内存,那么您将看到交换。

    【讨论】:

    • 非常感谢您提供的详细信息。我计划在我的集群中实施准入控制。 default_pool_mem_limit 参数是每个节点的值还是集群范围的值。如果是集群范围的值,Impala 的每个节点上的内存限制是多少?
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2018-05-12
    • 1970-01-01
    • 2015-06-27
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多