【问题标题】:Data Factory V2 Error Code 2200 on Data Lake Sink数据湖接收器上的数据工厂 V2 错误代码 2200
【发布时间】:2018-12-13 13:01:53
【问题描述】:

我将以下内容用作研讨会https://www.youtube.com/watch? v=IAqJ6nCDtGc

我在 Azure SQL 数据库(而不是本地数据库)中有一些销售数据

我有一个数据湖 Gen Storage 1 我已成功设置连接器和数据集。每个连接器都测试正常

创建 Azure Data Lake 创建应用注册以获取主体 ID 和主体密钥所需的信息

我已经按照上面的视频创建了带有复制活动的管道

当我运行它时,我得到以下内容

{ "errorCode": "2200", "message": "'Sink' 端发生故障。ErrorCode=UserErrorFailedFileOperation,'Type=Microsoft.DataTransfer.Common.Shared.HybridDeliveryException,Message=对 'Unknown' 的请求失败,状态代码为“BadRequest”,请求 ID 为“”。\r\nBad Request\r\n\r\n

错误请求 - 无效 URL

\r\n

HTTP 错误 400。请求 URL 无效。

\r\n\r\n ,Source=Microsoft.DataTransfer.ClientLibrary,''Type=System.Net.WebException,Message=远程服务器返回一个错误:(400) Bad Request.,Source=System,'", "failureType": "UserError", "target": "Copy Sales data to data lake" }

我检查了数据湖连接器中的 URL,这似乎很好

“dataLakeStoreUri”:“https://.azuredatalakestore.net/webhdfs/v1”,

我能想到的唯一其他 URL 是在登录 URL 上注册应用程序时设置的 URL

https://docs.microsoft.com/en-us/azure/active-directory/develop/howto-create-service-principal-portal

如果有人可以提供帮助,将不胜感激。

黛比

【问题讨论】:

  • 400 错误代码表示存在身份验证问题,这意味着它要么是目标路径,要么是用于连接 ADLS (Sink) 的凭据,您确定您的应用程序有足够的权限访问目标路径?
  • 我已经完成了所有设置(使用正确的权限注册应用程序),当我测试源和目标的连接时,它显示成功。我不知道这还能做什么?
  • 嗨,Debbie,您能否发布 CopyActivity 和 Pipeline 的 JSON 代码并尝试从我这里重现。

标签: azure azure-data-lake azure-data-factory-2


【解决方案1】:

一些想法。

您能否检查您是否将帐户 uri 设置为“https://您的 ADL 端点名称>.azuredatalakestore.net/webhdfs/v1”?上面您有“.azuredatalakestore.net/webhdfs/v1”,但请理解您可能出于隐私原因删除了此帖子中的端点。

关于 ADL 权限,您是否通过 ADL 中的数据浏览器分配了权限?我认为服务主体需要对根文件夹和所需路径中的所有文件夹以及将写入的任何子文件夹的读/写权限。即,如果我正在写信给 \foo\bar.txt

\       permissions needed = x
foo     permissions needed = x
bar.txt permissions needed = rw

详情请见here

最后,文件夹区分大小写,因此请检查它们是否被正确引用。

希望这会有所帮助。 标记。

【讨论】:

  • 谢谢,我看看这个
  • 我已将 xrw 赋予我的用户名,但仍然遇到此问题
【解决方案2】:

找出问题所在。

我已经为数据湖设置了一个动态文件路径,因此该文件将被放置到年/月/日文件夹中,但这导致了上述问题。一旦我删除了这条路径并将它运行到它工作的数据湖中。

我使用的文件路径来自这个u-tube如何引导

uhttps://www.youtube.com/watch?v=IAqJ6nCDtGc

我仍然需要弄清楚如何执行上述操作,但至少我可以将我的文件放入数据湖中

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2020-10-20
    • 1970-01-01
    • 2019-01-08
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多