【发布时间】:2020-05-27 02:03:05
【问题描述】:
我了解在 Azure 数据工厂中,数据集是一些源数据的视图。您可以从连接两个源表的查询创建单个数据集吗?或者您是否必须创建两个数据集,一个使用连接转换的数据流,以创建第三个数据集,作为该转换的接收器,这是所需的结果?
似乎源表在 ADF 中不是一个东西,只是数据集(只是表)?我觉得这非常令人困惑,也许我不理解更高的上下文。
【问题讨论】:
我了解在 Azure 数据工厂中,数据集是一些源数据的视图。您可以从连接两个源表的查询创建单个数据集吗?或者您是否必须创建两个数据集,一个使用连接转换的数据流,以创建第三个数据集,作为该转换的接收器,这是所需的结果?
似乎源表在 ADF 中不是一个东西,只是数据集(只是表)?我觉得这非常令人困惑,也许我不理解更高的上下文。
【问题讨论】:
DataSet 不是数据视图,它是指向某个位置的指针,还可以选择描述在该位置找到的架构。在您的情况下,一个指向表的指针,所以是的,您需要为每个 SOURCE 表提供一个 DataSet,并带有一个 Schema。您可以在数据流中将它们连接在一起,然后您将需要另一个用于 SINK 的数据集。根据 Sink 类型,您可能需要也可能不需要创建 Schema。
我假设表有一些 SQL 变体 - 如果是这样,并且如果两个表在同一个数据库中,那么我建议在 SQL 中执行 JOIN,因为它会更快更高效。如果 Sink 也在同一个数据库中,那么您将从存储过程而不是数据流中获得最大的收益。
【讨论】: