【问题标题】:Airflow connection for AzureAzure 的气流连接
【发布时间】:2022-01-22 22:11:32
【问题描述】:

我正在为我的工作学习 Airflow,但我遇到了一个非常简单的问题,我无法找到解决方案。

我想通过气流 GUI 添加一个简单的 azure blob 连接,但由于某种原因,每当我尝试测试连接时,它都会收到 BAD REQUEST 响应,请参见下面的示例:

我曾尝试使用 SAS 令牌和服务主体登录,但也没有用。

在某些时候,我认为这可能是由于缺少正确的权限造成的,但是当我尝试使用服务主体通过az cli 登录时,我可以看到资源很好(使用也可以正常工作authentication via Python)。

我在 docker 映像上运行气流,所以我认为可能是未安装 azure 提供程序,所以我通过docker exec -it airflow-webserver /bin/bash 在 docker 映像中打开了一个 shell 会话,并通过 pip 手动安装了提供程序,它确实也解决不了问题。

有人知道我接下来可以尝试什么吗?

【问题讨论】:

    标签: azure airflow azure-blob-storage


    【解决方案1】:

    UI 中测试连接按钮的当前实现仅相对于环境中 Airflow REST API 的启用而启用/禁用。这意味着如果启用了 REST API,则即使所选类型实际上不支持以这种方式测试连接,也会为所有连接类型启用“测试连接”按钮。

    这个按钮只有在底层钩子有一个test_connection()方法时才有效,不幸的是WasbHook(由Azure Blob存储连接类型使用)没有。这就是您看到“错误请求”错误的原因。这并不是因为您的连接本身配置错误,而是因为没有内置测试功能。

    有一个PR 来解决这个问题,但它还没有发布。

    如果您觉得它有帮助,这里有一些关于创建 Azure Blob 存储连接的 Airflow 文档:https://airflow.apache.org/docs/apache-airflow-providers-microsoft-azure/stable/connections/wasb.html

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2018-07-22
      • 2019-07-09
      • 2021-11-11
      • 1970-01-01
      • 2022-08-16
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多