【问题标题】:How to connect to composer dag folder from GCP Cloud shell如何从 GCP Cloud shell 连接到 composer dag 文件夹
【发布时间】:2021-07-14 06:00:54
【问题描述】:
我是 GCP 的新手。查看 gcp composer 和 cloud shell 上的不同文档,但找不到可以将 cloud shell 环境连接到 composer DAG 文件夹的位置。
现在,我正在云外壳(本地系统)之外创建 python 脚本,手动上传到 DAG 文件夹,但我只想在云外壳上执行此操作。谁能给我指路?
此外,当我尝试在 cloud shell 上的 python 文件中使用导入气流时,它给了我找不到模块的错误。我该如何安装它?
【问题讨论】:
标签:
google-cloud-platform
cloud
google-cloud-composer
【解决方案1】:
查看此 GCP 文档:
Adding and Updating DAGs (workflows)
在许多其他条目中,您会发现类似这样的信息:
确定存储桶名称
要确定与您的环境关联的存储桶的名称:
gcloud composer environments describe ENVIRONMENT_NAME \
--location LOCATION \
--format="get(config.dagGcsPrefix)"
地点:
ENVIRONMENT_NAME 是环境的名称。
LOCATION 是环境所在的 Compute Engine 区域。
--format 是一个选项,用于仅指定 dagGcsPrefix 属性而不是所有环境详细信息.
dagGcsPrefix 属性显示存储桶名称:
gs://region-environment_name-random_id-bucket/
添加或更新 DAG
要添加或更新 DAG,请将 DAG 的 Python .py 文件移动到 Cloud Storage 中环境的 dags 文件夹中。
gcloud composer environments storage dags import \
--environment ENVIRONMENT_NAME \
--location LOCATION \
--source LOCAL_FILE_TO_UPLOAD
地点:
ENVIRONMENT_NAME 是环境的名称。
LOCATION 是环境所在的 Compute Engine 区域。
LOCAL_FILE_TO_UPLOAD 是要上传的 DAG。