【发布时间】:2023-02-23 02:43:41
【问题描述】:
Unity Catalog 是 Lakehouse 的 Azure Databricks 数据治理解决方案。而 Microsoft Purview 提供统一的数据治理解决方案,以帮助管理和治理您的本地、多云和软件即服务 (SaaS) 数据。
问题: 在我们的same Azure Cloud 项目中,我们可以将Unity Catalog 用于 Azure Databricks Lakehouse,而将 Microsoft Purview 用于我们 Azure 项目的其余部分吗?
更新:在我们当前的 Azure 订阅中,我们将工作负载划分如下:
-
SQL 相关工作负载:我们正在使用 Databricks
only完成所有 SQL 数据库工作(不涉及 Azure SQL 数据库)。也就是说,我们正在使用 Databricks Lakehouse、Delta Lake、Deatricks SQL 等来执行ETL和所有Data Analytics work。 -
所有非 SQL 工作负载:所有其他资产(Excel 文件、csv 文件、pdf、媒体文件等)都存储在各种 Azure 存储帐户中。
MS Purview 在上述场景 2 中扫描资产方面做得很好,它通过自动数据发现、敏感数据分类和端到端数据沿袭轻松创建了我们数据格局的整体、最新地图。它还使我们的数据消费者能够访问有价值的、值得信赖的数据管理。
然而,我们近 50% 的工作(SQL、ETL、数据分析等)是在 Azure Databricks 中完成的,我们在 Purview 方面面临重大挑战。我们想知道是否有可能将 Purview 和 Unity Catalog 分开,如下所示:Purview 仅针对场景 1 进行数据治理,而 Unity Catalog 仅针对场景 2 进行数据治理。
这个最近发布的更新可能会解决我们让 Purview 更好地与 Azure Databricks 一起工作的问题,但我们还没有尝试过:Connect to and manage Azure Databricks in Microsoft Purview (Preview)
【问题讨论】:
标签: azure azure-databricks azure-purview databricks-unity-catalog