【问题标题】:Can we run multiple google cloud pipelines on the same data simultaneously?我们可以同时在同一数据上运行多个谷歌云管道吗?
【发布时间】:2018-05-02 10:09:11
【问题描述】:

假设我有一个从存储文件加载数据并将其加载到大查询表中的管道。在这个管道完成之前,我可以运行另一个对同一个文件和表执行相同操作的管道吗?

我的假设是它应该失败。另外,我们如何能够触发第二个管道? (我在 Eclipse 中运行 Apache Beam 代码;它不允许第二次执行,当一个类正在运行时)我们可以使用 CLI 运行吗?

【问题讨论】:

  • 我不知道你为什么要这样做,但是你可以。除非管道的 id 相同,否则不会失败。
  • 谢谢!我们只是在考虑是否有人会意外地通过同一管道触发副本,以及它是否会运行。管道的 id 将自动生成,因此它应该是唯一的。表和文件不会有任何访问问题,因为这两个作业将尝试访问相同的资源?
  • 没有。 Google 会为您处理所有这些 ;-)
  • 嗨@GrahamPolley,你能发布这个cmets作为答案吗?以便其他人知道问题已解决:-)
  • 如果您的管道配置为将数据附加到 BigQuery 表,您最终会得到重复的结果(来自两个管道)afaik。你必须手动处理它

标签: google-cloud-platform google-bigquery google-cloud-storage google-cloud-dataflow


【解决方案1】:

我不知道你为什么要这样做,但是你可以。除非管道的 id 相同,否则它不会失败。数据流将并行读取/写入。

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2021-11-10
    • 1970-01-01
    • 2019-03-06
    • 2017-05-23
    • 1970-01-01
    • 1970-01-01
    • 2013-03-04
    • 1970-01-01
    相关资源
    最近更新 更多