【发布时间】:2017-01-30 18:30:22
【问题描述】:
有没有办法使用流式插入将 AVRO 格式的数据插入 BigQuery?如果是,我们使用的是google-cloud-python,似乎不支持。唯一支持的类型是 json。我错过了什么吗?
有关 BQ 流式插入的文档似乎并未涵盖数据类型。我只能找到提到 here 的 AVRO 数据格式,但在流式插入的上下文中找不到。
有没有一种方法可以使用流式插入以 AVRO 格式插入数据,您能否将我链接到任何示例?如果无法使用流式插入插入 AVRO 数据,那么使用 AVRO 将大量数据插入 BQ 的推荐方法是什么?我们的使用要求超过了加载作业每天每张表 1000 个作业的限制。
【问题讨论】:
标签: python google-bigquery google-cloud-platform avro