【问题标题】:Beam/Dataflow: No session file found: /var/opt/google/dataflow/pickled_main_sessionBeam/Dataflow:找不到会话文件:/var/opt/google/dataflow/pickled_main_session
【发布时间】:2021-07-15 14:27:01
【问题描述】:

使用 Apache Beam (GCP Dataflow) 时,我在工作日志中看到以下警告:

未找到会话文件:/var/opt/google/dataflow/pickled_main_session。 __main__(交互式会话)中定义的函数可能会失败。

无论如何,我的 Dataflow 工作似乎都很好,但我想知道这个警告是关于什么的。

我在一些示例代码中看到了以下内容(我目前没有这样做):

pipeline_options.view_as(SetupOptions).save_main_session = True

pipeline_options 是指定 Beam/Dataflow 管道选项的主要方式,如下代码所示:

with beam.Pipeline(options=pipeline_options) as p:
    # actual pipeline code here

我很好奇这两者是否相关。警告的存在是否意味着我应该始终保存主会话?这两件事有关系吗?不相关?

【问题讨论】:

    标签: google-cloud-dataflow apache-beam


    【解决方案1】:

    您应该可以放心地忽略此警告。如果您的管道不需要,则无需设置save_main_session

    【讨论】:

      猜你喜欢
      • 2018-10-21
      • 2021-05-10
      • 2020-03-27
      • 1970-01-01
      • 1970-01-01
      • 2019-05-12
      • 1970-01-01
      • 2019-02-09
      • 2021-06-15
      相关资源
      最近更新 更多