【问题标题】:How to connect to composer dag folder from GCP Cloud shell如何从 GCP Cloud shell 连接到 composer dag 文件夹
【发布时间】:2021-07-14 06:00:54
【问题描述】:

我是 GCP 的新手。查看 gcp composer 和 cloud shell 上的不同文档,但找不到可以将 cloud shell 环境连接到 composer DAG 文件夹的位置。

现在,我正在云外壳(本地系统)之外创建 python 脚本,手动上传到 DAG 文件夹,但我只想在云外壳上执行此操作。谁能给我指路?

此外,当我尝试在 cloud shell 上的 python 文件中使用导入气流时,它给了我找不到模块的错误。我该如何安装它?

【问题讨论】:

    标签: google-cloud-platform cloud google-cloud-composer


    【解决方案1】:

    查看此 GCP 文档:

    Adding and Updating DAGs (workflows)

    在许多其他条目中,您会发现类似这样的信息:

    确定存储桶名称
    要确定与您的环境关联的存储桶的名称:

    gcloud composer environments describe ENVIRONMENT_NAME \
      --location LOCATION \
      --format="get(config.dagGcsPrefix)"
    

    地点:

    ENVIRONMENT_NAME 是环境的名称。
    LOCATION 是环境所在的 Compute Engine 区域。
    --format 是一个选项,用于仅指定 dagGcsPrefix 属性而不是所有环境详细信息.
    dagGcsPrefix 属性显示存储桶名称:

    gs://region-environment_name-random_id-bucket/

    添加或更新 DAG
    要添加或更新 DAG,请将 DAG 的 Python .py 文件移动到 Cloud Storage 中环境的 dags 文件夹中。

    gcloud composer environments storage dags import \
        --environment ENVIRONMENT_NAME \
        --location LOCATION \
        --source LOCAL_FILE_TO_UPLOAD
    

    地点:

    ENVIRONMENT_NAME 是环境的名称。
    LOCATION 是环境所在的 Compute Engine 区域。
    LOCAL_FILE_TO_UPLOAD 是要上传的 DAG。

    【讨论】:

      猜你喜欢
      • 2020-11-02
      • 1970-01-01
      • 1970-01-01
      • 2022-01-24
      • 2019-04-18
      • 1970-01-01
      • 2019-05-02
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多