【发布时间】:2020-09-22 08:49:54
【问题描述】:
我需要处理一些大数据并计划部署 Databricks 集群和存储技术。目前正在评估支持对象和文件存储的 Data Lake Gen2。存储帐户(blob、文件、表、队列)也具有类似的功能,可以处理基于文件和基于对象的存储需求。由于这些相似之处,我对选择一个选项感到有些困惑。有人可以澄清以下问题吗?
- 除了 HDFS 支持,我还应该针对存储帐户使用 Data Lake Gen2 的其他重要功能是什么?
- 启用分层命名空间的存储帐户 v2 == Data Lake Gen2。如果是这样,我可以像 Storage acc 的文件系统一样使用文件系统创建文件共享并将它们挂载到我的 VM 中吗?
- 对于从 Databricks 访问数据,这两者中的哪一个更适合大数据工作负载。我可以看到存储帐户也可以挂载为仍然可以利用分布式处理的 DBFS。
【问题讨论】:
-
请注意,ADLSgen2 是存储帐户的一部分:该帐户具有 ADLS2 终结点,就像文件、blob、表和队列终结点一样
-
嗨,是的,我明白这一点,这就是我的第 2 点。
标签: azure azure-storage azure-data-lake azure-databricks