【问题标题】:ADF change columns of data type in Sink using copy dataADF 使用复制数据更改接收器中数据类型的列
【发布时间】:2020-09-23 10:53:59
【问题描述】:

有没有人在使用 adf 中的特定数据类型从源和接收器复制时转换列的数据类型。

从 Microsoft 文档中,我注意到 adf 复制数据可以执行 1. 从本机源类型转换为 Azure 数据工厂临时数据类型 2. 从 Azure 数据工厂过渡数据类型转换为本机接收器类型

目前,我想从将所有列存储为字符串的配置单元表中复制数据,因此当使用 adf 复制数据并将其作为具有正确数据类型的镶木地板时,其中某些列可能是 int、datetime、string等等。因此,我在通过创建动态 json 代码复制数据时使用了动态映射。

"translator": {
        "type": "TabularTranslator",
        "mappings": [
            {
                "source": {
                    "name": "commentid",
                    "type": "Int32"
                },
                "sink": {
                    "name": "commentid",
                    "type": "Int32"
                }
            },
            {
                "source": {
                    "name": "comment",
                    "type": "String"
                },
                "sink": {
                    "name": "comment",
                    "type": "String"
                }
            },
            {
                "source": {
                    "name": "commenteduser",
                    "type": "String"
                },
                "sink": {
                    "name": "commenteduser",
                    "type": "String"
                }
            },
            {
                "source": {
                    "name": "commenteddatetime",
                    "type": "String"
                },
                "sink": {
                    "name": "commenteddatetime",
                    "type": "String"
                }
            }
        ]
    }

但是,因此,复制过程是成功的,没有任何错误消息。但是当我在这些 parquet 文件上创建表时,这些列的数据类型仍然显示为字符串。

这里有没有人以前遇到过这个问题。谢谢。

【问题讨论】:

    标签: azure azure-data-factory azure-data-lake azure-databricks


    【解决方案1】:

    您发布的 JSON 在数据类型中看不到任何转换。我不确定您是否只是共享了具有默认映射的列。您可以尝试显式映射,我认为它应该可以工作

    【讨论】:

      猜你喜欢
      • 2021-09-20
      • 2012-07-19
      • 1970-01-01
      • 1970-01-01
      • 2014-01-20
      • 2019-11-08
      • 2018-12-24
      • 2019-12-25
      • 2019-04-29
      相关资源
      最近更新 更多