【问题标题】:Cannot read and write the query result back to BigQuery无法读取查询结果并将其写回 BigQuery
【发布时间】:2018-06-15 19:53:39
【问题描述】:

我正在使用 BigQueryIO.readTableRows().fromQuery(...) 从 BigQuery 读取行,然后使用 BigQueryIO.writeTableRows()TableRow 写回 BigQuery。我已经创建了具有正确架构的表,因此使用 CreateDisposition.CREATE_NEVER 并且不必在 Beam 客户端中设置架构。问题是所有Record 字段在查询结果中都被展平(下划线附加),并且与不是展平形式的表的架构不匹配。在读取时使用.withoutResultFlattening() 无助于整理记录,因此无法解决这种差异。我们如何在不展平结果的情况下进行查询?

【问题讨论】:

  • 我来自 GCP 支持团队,我们可以测试 .withoutResultFlattening() 在我们这边运行良好。您能否在 BigQueryIO.readTableRows().fromQuery().withoutResultFlatening() 之后立即添加一些日志记录,以确保行没有被展平?

标签: google-cloud-platform google-bigquery


【解决方案1】:

您可以使用标准 SQL,因为结果不会像 here 解释的那样被展平。

【讨论】:

    猜你喜欢
    • 2019-06-28
    • 1970-01-01
    • 1970-01-01
    • 2013-08-04
    • 2019-02-28
    • 1970-01-01
    • 2013-12-07
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多