【问题标题】:Azure Datalake Analytics U-SQL with Azure Datalake Storage Gen 2Azure Data Lake Analytics USE-SQL 与 Azure Data Lake Storage Gen 2
【发布时间】:2020-11-22 05:03:49
【问题描述】:

问题:将 ADLA (U-SQL) 与 ADLS(Gen2) 结合使用的前进方向是什么?

我已经在美国东部地区使用 Azure Data Lake Store Generation 1 通过 Azure Data factory (ADF v2) 运行 Azure Data Lake Analytics (U-SQL) 作业已有一段时间了

我计划部署另一个实例来满足加拿大客户的需求,并希望设置 Azure Data Lake Store Generation 1

我尝试了什么:

  • 我无法在加拿大中部(或任何加拿大地区)创建 Azure Datalake Storage Gen 1 帐户
  • 我尝试迁移到 Azure Datalake Storage Gen2,但遇到了 Azure 数据工厂 - U-SQL 活动无法与 Gen2 存储链接服务链接以获取 U-SQL 脚本的问题

我偶然发现了关于这个主题的多个链接:

这实质上是说 U-SQL / ADLA 不会支持 ADLS Gen2

我有点困惑,因为没有关于 ADLA 方向的官方文档

【问题讨论】:

  • 据我了解,ADLA 没有前进的方向。微软将继续支持它(至少目前是这样),但我不希望有任何新产品开发。不幸的是,这也包括 U-SQL,因此前进的道路很可能涉及迁移到 Synapse 或其他一些 Spark 环境。

标签: azure-data-lake azure-data-factory-2 u-sql azure-data-lake-gen2


【解决方案1】:

更新:

这是我的 u-sql 活动的结构。它可以工作并成功处理:(您可以尝试创建一个新的u-sql活动json来替换您的u-sql活动。)

{
    "name": "pipeline4",
    "properties": {
        "activities": [
            {
                "name": "U-SQL1",
                "type": "DataLakeAnalyticsU-SQL",
                "dependsOn": [],
                "policy": {
                    "timeout": "7.00:00:00",
                    "retry": 0,
                    "retryIntervalInSeconds": 30,
                    "secureOutput": false,
                    "secureInput": false
                },
                "userProperties": [],
                "typeProperties": {
                    "scriptPath": "test1/u-sql.txt",
                    "scriptLinkedService": {
                        "referenceName": "LinkTo0730",
                        "type": "LinkedServiceReference"
                    }
                },
                "linkedServiceName": {
                    "referenceName": "AzureDataLakeAnalytics1",
                    "type": "LinkedServiceReference"
                }
            }
        ],
        "annotations": []
    }
}

原答案:

我无法在其中创建 Azure Datalake Storage Gen 1 帐户 加拿大中部(或任何加拿大地区)

就我而言,我也无法在加拿大中部地区创建 datalake gen1。这是我订阅的限制。但是您可以检查一下您身边的资源管理器,也许可以。(Azure 数据湖 gen1 是 'Microsoft.DataLakeStore')

资源管理器在所有地区都受支持,但您部署的资源可能并非在所有地区都受支持。此外,您的订阅可能存在限制,导致您无法使用支持该资源的某些区域。资源浏览器显示资源类型的有效位置。

请检查此文件:

https://docs.microsoft.com/en-us/azure/azure-resource-manager/management/resource-providers-and-types

我尝试迁移到 Azure Datalake Storage Gen2,但后来遇到了 无法链接 Azure 数据工厂 - U-SQL 活动的问题 使用 Gen2 Storage 链接服务来获取 U-SQL 脚本

在我这边,好像是在读取gen2中的u-sql脚本,你有什么错误吗?

【讨论】:

  • 嗨@Bowman Zhu。感谢您花时间回答我的问题。对于seems it is reading the u-sql script in gen2, did you get some error?,我正在使用datafactory U-SQL 活动来尝试访问存储在Gen2 datalake 上的脚本,并且包装Gen2 实例的linkedService 不能作为链接活动的有效选项!
  • @frictionlesspulley 可以尝试替换管道和链接服务的json文件,则不需要选择。
  • @frictionlesspulley u-sql 活动结构我贴出来了,请手动替换u-sql 活动。
  • 哦!所以您是说用户界面不允许我们选择 Gen1,但只需更改底层活动定义即可使其工作!我会试试这个。谢谢!
猜你喜欢
  • 1970-01-01
  • 2020-01-24
  • 2023-03-04
  • 2019-09-23
  • 2020-09-27
  • 2021-03-26
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
相关资源
最近更新 更多