【问题标题】:Azure Data Factory data flow - drops null columnsAzure 数据工厂数据流 - 删除空列
【发布时间】:2021-09-12 04:45:53
【问题描述】:

在 azure 数据工厂中使用数据流移动数据时,我注意到数据(在接收器)缺少包含 NULL 值的列。使用复制活动复制相同数据时,接收器中的列显示为 NULL。

复制活动后的记录:

数据流后的记录:

Source 是 parquet,sink 是 azure cosmos db。我的目标是避免定义任何模式,因为我只想“按原样”复制所有数据。我在源和接收器上使用了“允许架构漂移”选项。

我只会使用复制活动,但它似乎无法像数据流那样定义最大速度(RU 消耗),因此复制活动最终会非常消耗 cosmos db 的所有 RU快速(如here 所述)


编辑:

接收器数据预览显示所有列

sink 检查选项卡显示所有列

【问题讨论】:

  • 在您的数据流设计器中,当您单击接收器转换上的“数据预览”时,是否看到那里的列是 NULL?此外,检查检查选项卡以确保元数据中存在这些列。
  • @MarkKromerMSFT - 是的,我看到数据预览中的列以及接收器的检查选项卡,我将向 OP 添加图片
  • 用重现发现更新了我之前的答案,看看它是否有帮助

标签: azure-data-factory azure-data-factory-2


【解决方案1】:

数据流总是跳过写入带有 NULL 的 JSON 标记。目前除了复制活动之外没有其他解决方法。

【讨论】:

  • 这是否记录在我错过的某个地方?
猜你喜欢
  • 1970-01-01
  • 2020-12-16
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2020-11-26
  • 2020-11-30
  • 1970-01-01
  • 2020-04-14
相关资源
最近更新 更多