【问题标题】:Understanding ADF Data Sets了解 ADF 数据集
【发布时间】:2020-05-27 02:03:05
【问题描述】:

我了解在 Azure 数据工厂中,数据集是一些源数据的视图。您可以从连接两个源表的查询创建单个数据集吗?或者您是否必须创建两个数据集,一个使用连接转换的数据流,以创建第三个数据集,作为该转换的接收器,这是所需的结果?

似乎源表在 ADF 中不是一个东西,只是数据集(只是表)?我觉得这非常令人困惑,也许我不理解更高的上下文。

【问题讨论】:

    标签: azure-data-factory-2


    【解决方案1】:

    DataSet 不是数据视图,它是指向某个位置的指针,还可以选择描述在该位置找到的架构。在您的情况下,一个指向表的指针,所以是的,您需要为每个 SOURCE 表提供一个 DataSet,并带有一个 Schema。您可以在数据流中将它们连接在一起,然后您将需要另一个用于 SINK 的数据集。根据 Sink 类型,您可能需要也可能不需要创建 Schema。

    我假设表有一些 SQL 变体 - 如果是这样,并且如果两个表在同一个数据库中,那么我建议在 SQL 中执行 JOIN,因为它会更快更高效。如果 Sink 也在同一个数据库中,那么您将从存储过程而不是数据流中获得最大的收益。

    【讨论】:

    • 谢谢。所以最简单的方法是简单地在 SQL 中创建一个视图并在那里进行连接并从中创建一个数据集?
    • 我从来没有从视图创建数据集,所以我不确定视图是否显示在表列表中。如果这不起作用,您的数据流可以使用可以引用视图的 SELECT 查询。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2021-09-26
    • 2021-05-01
    • 2013-05-14
    • 1970-01-01
    • 1970-01-01
    • 2021-09-20
    • 2022-10-17
    相关资源
    最近更新 更多