【发布时间】:2018-06-15 19:53:39
【问题描述】:
我正在使用 BigQueryIO.readTableRows().fromQuery(...) 从 BigQuery 读取行,然后使用 BigQueryIO.writeTableRows() 将 TableRow 写回 BigQuery。我已经创建了具有正确架构的表,因此使用 CreateDisposition.CREATE_NEVER 并且不必在 Beam 客户端中设置架构。问题是所有Record 字段在查询结果中都被展平(下划线附加),并且与不是展平形式的表的架构不匹配。在读取时使用.withoutResultFlattening() 无助于整理记录,因此无法解决这种差异。我们如何在不展平结果的情况下进行查询?
【问题讨论】:
-
我来自 GCP 支持团队,我们可以测试
.withoutResultFlattening()在我们这边运行良好。您能否在 BigQueryIO.readTableRows().fromQuery().withoutResultFlatening() 之后立即添加一些日志记录,以确保行没有被展平?
标签: google-cloud-platform google-bigquery