【问题标题】:Filter csv file according to null values using azure data factory使用 azure 数据工厂根据空值过滤 csv 文件
【发布时间】:2020-08-03 18:46:19
【问题描述】:

我现在在 blob 中有一个 CSV 文件,我想使用 azure 数据工厂将该 CSV 文件推送到 SQL 表中,但我想要的是如果任何单元格具有空值,则对 CSV 数据设置一个检查条件,以便行数据将复制到错误表中,例如我在 CSV 中有 ID、姓名和联系人列,因此对于任何记录,可以说联系人为 null(1, 'Gaurav', NULL) 所以在这种情况下,该行将插入错误表如果该行中没有 null 则该行将进入主表

注意:因为 sink 是 VM 上的 SQL,所以我们不能在那里创建任何这个,我们只能在数据工厂级别处理这个

【问题讨论】:

    标签: azure csv azure-data-factory azure-data-factory-2


    【解决方案1】:

    这可以使用 ADF 中的映射数据流来完成。一种方法是使用带有表达式的派生列,该表达式使用例如 isNull() 函数进行 null 检查。这样,您可以为不同的情况填充一些值的新列,然后您可以在条件拆分中使用它来将不同的流重定向到不同的接收器。

    【讨论】:

    • 我知道,但实际上在数据流中,在集群上需要时间,因为我们从事件触发器中获取数据,所以当有人在 blob 触发器中上传文件时,我想在没有数据的情况下这样做流动
    • 管道只是编排器,所以如果你想做行级工作,你需要标准数据工厂管道以外的东西:Azure Batch、DataBricks、DataFlow 等。
    • 您可以通过查找和过滤活动来模拟小型数据集上的逐行操作。您可以使用逻辑函数来检查过滤器活动中的行内的值。
    猜你喜欢
    • 2022-07-01
    • 2023-03-10
    • 2021-11-24
    • 2022-08-18
    • 2020-12-04
    • 1970-01-01
    • 2020-09-16
    • 2021-01-01
    • 2021-04-23
    相关资源
    最近更新 更多