【发布时间】:2021-03-05 07:36:23
【问题描述】:
我有一个要求,其中我有一个源文件,其中包含映射数据流中的表名称。基于文件中的表名称 - 需要一个动态查询,其中列元数据以及一些其他属性从数据字典表中检索并插入到不同的接收器表中。文件中的表名将用作 where 条件过滤器。
由于输入文件中可以列出多个表(假设它是一个 csv,其中只有一列包含表名),如果我们决定为文件使用缓存接收器:
-
是否可以在同一映射数据流中的源转换查询中使用缓存接收器的结果 - 作为查找(从哪里检索列元数据),如果是,如何
-
根据此表名限制元数据表查询中的数据的最佳方法是什么
-
虽然可以通过使用 For Each 将表名作为参数传递给数据流的管道来实现这一点,但在这种情况下,如果文件中有 100 个表,则需要进行 100 次迭代和 100 次集群被旋转起来。请告知这是错误的还是有更好的方法来实现这一点
【问题讨论】:
标签: azure etl azure-data-factory azure-data-factory-2 azure-data-factory-pipeline