【问题标题】:GCP Dataflow : print PCollection dataGCP 数据流:打印 PCollection 数据
【发布时间】:2021-01-10 20:37:24
【问题描述】:

我是 GCP Dataflow 的新手,只是想了解是否有任何方法可以打印 PCollection 的所有值。

Pipeline p = Pipeline.create(options);
PCollection<String> lines = p.apply("ReadLines", TextIO.read().from(options.getInputFile()));

在这里,我想打印并检查行中所有可用的值(PCollection)

同样的,想要在下面的操作之后访问所有单词中的值

PCollection<String> words = lines.apply(
            FlatMapElements.into(TypeDescriptors.strings())
                    .via((String line) -> Arrays.asList(line.split(" "))));

【问题讨论】:

    标签: google-cloud-platform google-cloud-dataflow


    【解决方案1】:

    您需要在 ParDo 中处理 PCollection。 See docs here。在 ParDo 中,您可以检查每个元素。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 2020-08-07
      • 2019-07-15
      • 2021-10-13
      • 2021-01-22
      • 2021-02-08
      • 1970-01-01
      • 2021-07-30
      相关资源
      最近更新 更多