【问题标题】:Is it possible to add a column with specific value to data in azure data factory pipeline是否可以在 azure 数据工厂管道中的数据中添加具有特定值的列
【发布时间】:2019-11-22 06:24:06
【问题描述】:

我正在将数据从系统 X 复制到 blob 存储作为 parquet 文件或 excel 文件是否可以再添加一个步骤来帮助我添加一个具有管道运行 ID 或触发器 ID 的列?

提前谢谢你

【问题讨论】:

    标签: azure logging metadata pipeline azure-data-factory-2


    【解决方案1】:

    您从哪里提取数据?如果是数据库,就很简单,因为你可以在选择数据时使用的sql语句中添加它。例如:

    select *, NewColumn='Value' from yourTable
    

    如果您希望为每个可能的数据源提供解决方案,您可以在数据流中使用派生列转换:https://docs.microsoft.com/en-us/azure/data-factory/data-flow-derived-column

    您还可以使用字符串函数从管道本身添加数据,例如:

    @concat('select *, pipeId= ''', pipeline().RunId,''' from SalesLT.Address')
    

    这将选择所有字段,以及一个名为 pipeId 的附加字段,该字段对于每一行都具有相同的值,并且将是管道运行 ID。

    希望这有帮助!

    【讨论】:

    • 我从 azure SQL 中提取,但我要添加的列是管道执行 ID 和触发器 ID。是否可以通过查询添加它们。除此之外,我不能在这个过程中使用数据流,如果可能的话,我需要使用数据复制来完成。感谢您的回复,我会尝试您建议的查询方法。
    • 嘿刚刚更新了我的答案,以包含管道运行 ID 作为示例
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2021-09-27
    • 1970-01-01
    • 2021-11-14
    • 1970-01-01
    • 2020-08-15
    • 1970-01-01
    • 2021-03-15
    相关资源
    最近更新 更多