【问题标题】:Delta Lake independent of Apache Spark?Delta Lake 独立于 Apache Spark?
【发布时间】:2021-07-14 19:45:45
【问题描述】:

我一直在探索数据湖库概念和 Delta Lake。它的一些功能看起来真的很有趣。在项目主页https://delta.io/ 上,有一张图表显示 Delta Lake 在“您现有的数据湖”上运行,而没有提及 Spark。在其他地方,它表明 Delta Lake 确实运行在 Spark 之上。所以我的问题是,它可以独立于 Spark 运行吗?例如,我可以在架构中不使用 Spark 的情况下,使用 S3 存储桶设置 Delta Lake,以 Parquet 格式存储、模式验证等吗?

【问题讨论】:

    标签: apache-spark delta-lake


    【解决方案1】:

    你可能会关注这个:https://github.com/delta-io/delta-rs

    这是早期的,目前是只读的,但随着项目的发展值得关注。

    【讨论】:

      【解决方案2】:

      tl;dr 没有


      直到 0.8.0 和包括 Delta Lake 都与 Apache Spark 紧密集成,因此没有 Spark 就不可能拥有 Delta Lake。

      【讨论】:

        猜你喜欢
        • 2019-10-06
        • 2020-12-02
        • 2023-01-24
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 2020-03-09
        • 1970-01-01
        相关资源
        最近更新 更多