【问题标题】:GCP Dataproc : CPUs and Memory for Spark JobGCP Dataproc:Spark 作业的 CPU 和内存
【发布时间】:2019-12-26 22:32:05
【问题描述】:

我对 GCP 完全陌生。是用户必须管理为驱动程序和工作程序分配的内存量以及在 Dataproc 集群中运行 Spark 作业的 CPU 数量吗?如果是,Dataproc 使用的弹性有哪些方面?

谢谢。

【问题讨论】:

标签: apache-spark memory google-cloud-platform cpu google-cloud-dataproc


【解决方案1】:

通常不需要,Dataproc 集群的资源由 YARN 管理,Spark 作业会自动配置为使用它们。特别是,Spark dynamic allocation 默认启用。但是您的应用程序代码仍然很重要,例如,您需要指定适当的分区数。

【讨论】:

    猜你喜欢
    • 2020-01-16
    • 2019-07-22
    • 2011-12-31
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2011-03-28
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多