【问题标题】:Dataflow appears to be stuck 3数据流似乎卡住了 3
【发布时间】:2017-11-14 09:01:39
【问题描述】:

我在 Dataflow 日志中收到此错误:

(11b55950300ec4ce):工作流程失败。原因:(11b55950300ec459): 数据流似乎卡住了。请通过以下方式与 Dataflow 团队联系 http://stackoverflow.com/questions/tagged/google-cloud-dataflow.

JobID 是:2017-11-13_20_58_16-5812097262489045871

我尝试了完全相同的代码,它正在其他项目中运行......

感谢您的帮助,

约苏亚

【问题讨论】:

  • 我尝试了 WordCount 代码,但在同一个项目中出现了同样的错误。错误 ID:(efbac2f6c2ec13f0) JobID:2017-11-14_00_42_11-4211727424575330420
  • 在尝试启动 GCE 虚拟机以运行作业时,Dataflow 似乎失败了。您是否可以重命名默认网络?如果是这样,您必须使用管道选项指定网络github.com/apache/beam/blob/master/runners/…
  • @chamikara 是的,似乎是网络问题。它在我在管道选项中指定网络后工作。非常感谢!

标签: google-cloud-dataflow


【解决方案1】:

由于默认网络的区域(在我的情况下为 asia-southeast1)和区域参数(默认值:us-central1-f)不匹配,因此数据流无法生成工作人员。

所以要解决这个问题,我需要在管道参数中显式设置network、subnet 和zone。

注意:我发现这不直观,但可以将 region 设置为 us-central1 并将区域置于 us-central1 之外,因为 region 参数是我们部署作业的位置,zone 是我们生成工作器的位置.

参考:https://cloud.google.com/dataflow/pipelines/specifying-exec-params

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多