【问题标题】:How does Spark do in-memory computation when size of data is far larger than available memory in Cluster [duplicate]当数据大小远大于集群中的可用内存时,Spark 如何进行内存计算 [重复]
【发布时间】:2019-03-02 14:52:36
【问题描述】:

我对用于内存计算的 spark 的工作机制有点困惑。 如果 spark 在内存中进行处理, 当它有 16 GB 的内存存储时,它如何计算 100 TB 的数据

【问题讨论】:

  • 查看this 视频可能会回答您可能遇到的许多问题。

标签: apache-spark


【解决方案1】:

Spark 将处理适合机器资源和计算能力的数据块。这项工作将分为若干次迭代,在此期间,spark 会将数据加载到内存中,对其进行处理,然后在必要时将结果写回磁盘以处理下一个数据块。

【讨论】:

    猜你喜欢
    • 2017-12-11
    • 2018-09-27
    • 1970-01-01
    • 2012-10-24
    • 1970-01-01
    • 2021-08-27
    • 2011-02-04
    • 2021-04-09
    • 1970-01-01
    相关资源
    最近更新 更多