【发布时间】:2019-10-17 11:26:22
【问题描述】:
Databricks 有结果缓存的概念吗?当我运行 SQL 查询时,它是否将结果集缓存在某处以进行亚秒级访问,还是我们只有 Delta 湖缓存?我在文档中找不到任何东西,在这个阶段我假设它不作为一个功能存在。有人可以澄清一下吗?
【问题讨论】:
-
据我所知,这是不可能的,文档确实涉及清除缓存以提高性能,但与这个特定问题无关。我希望这能进一步澄清未来的答案。
-
databricks 平台中有一个概念叫增量缓存。您可能想检查一下,这与火花缓存不同。增量缓存包含远程数据的本地副本。它可以提高各种查询的性能,但不能用于存储任意子查询的结果。见docs.databricks.com/delta/optimizations/delta-cache.html。
-
增量缓存与结果缓存非常不同。使用增量缓存,数据缓存在本地节点上。