【问题标题】:Azure Data Lake Gen2 vs Storage accountAzure Data Lake Gen2 与存储帐户
【发布时间】:2020-09-22 08:49:54
【问题描述】:

我需要处理一些大数据并计划部署 Databricks 集群和存储技术。目前正在评估支持对象和文件存储的 Data Lake Gen2。存储帐户(blob、文件、表、队列)也具有类似的功能,可以处理基于文件和基于对象的存储需求。由于这些相似之处,我对选择一个选项感到有些困惑。有人可以澄清以下问题吗?

  1. 除了 HDFS 支持,我还应该针对存储帐户使用 Data Lake Gen2 的其他重要功能是什么?
  2. 启用分层命名空间的存储帐户 v2 == Data Lake Gen2。如果是这样,我可以像 Storage acc 的文件系统一样使用文件系统创建文件共享并将它们挂载到我的 VM 中吗?
  3. 对于从 Databricks 访问数据,这两者中的哪一个更适合大数据工作负载。我可以看到存储帐户也可以挂载为仍然可以利用分布式处理的 DBFS。

【问题讨论】:

  • 请注意,ADLSgen2 是存储帐户的一部分:该帐户具有 ADLS2 终结点,就像文件、blob、表和队列终结点一样
  • 嗨,是的,我明白这一点,这就是我的第 2 点。

标签: azure azure-storage azure-data-lake azure-databricks


【解决方案1】:

除了 HDFS 支持,还有什么我应该做的重要功能 对存储帐户使用 Data Lake Gen2?

回答:还有其他好处。简而言之,好处是性能/管理/安全以及成本。更多详情可以参考this official article

启用分层命名空间的存储帐户 v2 == 数据湖 第 2 代。如果是这样,我可以使用文件系统来创建文件共享和挂载吗 它们在我的 VM 中就像 Storage acc 的文件系统一样?

答案:当然,ADLS Gen2 支持文件共享挂载,就像 blob 存储一样。

用于从 Databricks 访问数据,这两者中的哪一个将是 更适合大数据工作负载。我可以看到存储帐户也可以 安装为 DBFS,仍然可以利用分布式处理。

答案:ADLS Gen2 也可以是mounted as DBFS。根据答案 1,更好的应该是 ADLS Gen2。

【讨论】:

    猜你喜欢
    • 2019-12-02
    • 1970-01-01
    • 2019-09-10
    • 1970-01-01
    • 1970-01-01
    • 2021-03-06
    • 1970-01-01
    • 2023-04-02
    • 1970-01-01
    相关资源
    最近更新 更多