【问题标题】:Unable to install pypi package(google-cloud-bigquery) on GCP Composer无法在 GCP Composer 上安装 pypi 包(google-cloud-bigquery)
【发布时间】:2020-10-29 21:40:23
【问题描述】:

我正在尝试在 GCP 作曲家上安装 google-cloud-bigquery==1.5.0 PyPI 包,以便最近创建一个新环境。我收到此错误:

Successfully installed google-cloud-bigquery-1.5.0 google-cloud-core-0.28.1 pypd-1.1.0 strict-rfc3339-0.7
+ [[ -z fail ]]
+ python3 -m pipdeptree --warn fail
Warning!!! Possibly conflicting dependencies found:
* google-cloud-translate==2.0.1
 - google-cloud-core [required: >=1.1.0,<2.0dev, installed: 0.28.1]
* google-cloud-storage==1.29.0

我尝试了另一个版本(2.2.0),它与其他一些谷歌预装的软件包有冲突。 新的环境镜像版本为composer-1.12.2-airflow-1.10.6。 几个月前创建了另一个环境,所有pypi包都安装成功,airflow dags运行顺利,它的镜像版本是composer-1.10.0-airflow-1.10.6。

问题 1:我认为当前问题与映像版本有关,可能我必须使用旧映像版本重新创建新环境,对吗?

问题 2:要创建新环境,图像版本只有三个选项,分别是 composer-1.12.2-airflow-1.10.6、composer-1.12.2-airflow-1.10.9、composer-1.12.2-airflow-1.10.10。如何使用图像版本 composer-1.10.0 创建环境?我们有几个其他项目和环境具有相同的位置/区域,但使用 composer-1.10.0

【问题讨论】:

  • 让我澄清一件事:您是否要在 composer-1.12.2-airflow-1.10.6 上安装 google-cloud-bigquery-1.5.0?使用这个特定版本的原因是什么?
  • @Ines 感谢您的评论。 google-cloud-bigquery-1.5.0 在要求中,对于其他项目是相同的。如果我使用其他版本,其他预安装的 google 软件包将存在依赖关系问题。我尝试使用旧图像版本(1.10)创建新环境,但它不允许我必须选择 1.12.2

标签: google-cloud-composer


【解决方案1】:

请查看official documentation,了解 Cloud Composer 支持的 Apache Airflow 和 Python 版本。你可以参考sectioncomposer-1.12.2-airflow-1.10.6附带的Python包。特定的 Cloud Composer Airflow 版本已经附带了一组包含的软件包。当您升级/降级特定安装的 PyPi 包或尝试使用任何其他包时,您可能会遇到冲突。

目前,无法在 Cloud Composer 环境中提前检查冲突。我想建议你调整你的包以便能够在 Composer 环境之一中使用:composer-1.12.4-airflow-1.10.10, composer-1.12.4-airflow-1.10.9 或 composer-1.12.4-airflow-1.10.6。

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2022-06-18
    • 2020-12-13
    • 2019-06-06
    • 2020-03-21
    • 2022-06-11
    • 2019-06-08
    • 1970-01-01
    相关资源
    最近更新 更多