【发布时间】:2017-11-07 16:09:15
【问题描述】:
我想为在 Dataflow 和正常环境中使用的库使用一些配置。
有没有办法让代码检查它是否在 Dataflow 上运行?例如,我看不到环境变量。
准跟进Google Dataflow non-python dependencies - separate setup.py?
【问题讨论】:
我想为在 Dataflow 和正常环境中使用的库使用一些配置。
有没有办法让代码检查它是否在 Dataflow 上运行?例如,我看不到环境变量。
准跟进Google Dataflow non-python dependencies - separate setup.py?
【问题讨论】:
一个选项是使用 PipelineOptions,其中包含管道运行器信息。如梁文档中所述:“当您在您选择的运行器上运行管道时,您的代码将可以使用 PipelineOptions 的副本。例如,您可以从 DoFn 的上下文中读取 PipelineOptions。”
有关 PipelineOptions 的更多信息:https://beam.apache.org/documentation/programming-guide/#configuring-pipeline-options
【讨论】:
这不是一个好的答案,但它可能是我们目前能做的最好的答案:
if 'harness' in os.environ.get('HOSTNAME', ''):
【讨论】: