如何在 Google Dataflow 上安装 python 包并将其导入我的管道？

Question

我的文件夹结构如下：

Project/
 --Pipeline.py
 --setup.py
 --dist/
  --ResumeParserDependencies-0.1.tar.gz
 --Dependencies/
        --Module1.py
        --Module2.py
        --Module3.py

我的setup.py 文件如下所示：

from setuptools import setup, find_packages

setup(name='ResumeParserDependencies',
  version='0.1',
  description='Dependencies',
  install_requires=[
   'google-cloud-storage==1.11.0',
   'requests==2.19.1',
   'urllib3==1.23'
    ],
  packages = ['Dependencies']
 )

我使用 setup.py 文件使用“python setup.py sdist”创建了一个 tar.gz 文件。 tar 文件位于 dist 文件夹中，名称为 ResumeParserDependencies-0.1.tar.gz。然后我指定

setup_options.extra_packages = ['./dist/ResumeParserDependencies-0.1.tar.gz'] in my pipeline options.

但是，在 Dataflow 上运行管道后，我会收到错误消息“没有名为 ResumeParserDependencies 的模块”。如果我在本地使用“pip install ResumeParserDependencies-0.1.tar.gz”，则安装包，我可以使用“pip freeze”看到它。

将包加载到 Dataflow 中我缺少什么？

Answer 1

我更改了我的文件夹结构并让它工作：

Project/
--Pipeline.py
--setup.py
--Module1/
    --__init__.py
--Module2/
    --__init__.py
--Module3/
    --__init__.py

setup.py 文件现在如下所示： 从 setuptools 导入设置，find_packages

setup(name='ResumeParserDependencies',
  version='0.1',
  description='Dependencies',
  install_requires=[
   'google-cloud-storage==1.11.0',
   'urllib3==1.23'
    ],
  packages = find_packages()
 )

在我的管道中，我指定：

setup_options.setup_file = './setup.py'

我不需要：

setup_options.extra_packages = ['./dist/ResumeParserDependencies-0.1.tar.gz']

参考： find_packages doesn't find my Python file

Answer 2

发生此问题时，通常是由于 SDK 或 Worker 依赖项的版本不匹配。为了解决您的问题，check your Dataflow version 和 Worker Dependencies for the SDK version 验证您是否正在运行兼容版本。