【问题标题】:Dynamic filename in Data Factory dataflow source数据工厂数据流源中的动态文件名
【发布时间】:2020-08-04 15:12:29
【问题描述】:

我正在使用一个管道,它将表数据从本地 SQL 动态加载到 datalake csv 文件,为我已经设置为使用 Foreach 加载到 AzureSQL 中的 versionControl 表中的每个表下沉一个 .csv 文件。

因此,在加载数据后,我想根据加载的每个 .csv 文件的 MAX(lastUpdate) 字段,用 lastUpdate 日期更新 versionControl 表。为此,我知道我需要在复制活动之后添加一个数据流,这样我就可以使用聚合转换,但不知道如何在参数中动态地将文件名传递给数据流的源。

谢谢!

【问题讨论】:

    标签: azure-data-factory-2 azure-data-factory-pipeline


    【解决方案1】:

    2 个选项:

    1. 参数化数据集。在数据流中使用具有文件名参数的源数据集。然后,您可以将该文件名作为管道参数传入。

    2. 参数化源通配符。您还可以在数据流中使用仅指向容器中文件夹的源数据集。然后,您可以参数化 Source 中的通配符属性,并将文件名作为管道参数发送。

    【讨论】:

    • 谢谢,尝试使用选项 1 并完美,但运行管道时出现错误:
    • @Mark 有没有办法将多个文件名作为参数传递给数据流?
    • 通过在动态内容中设置参数来使用源转换的通配符路径
    猜你喜欢
    • 2020-05-01
    • 2020-07-14
    • 2022-08-22
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2021-12-06
    • 1970-01-01
    相关资源
    最近更新 更多