【问题标题】:BIgQuery AVRO external table schemaBIgQuery AVRO 外部表架构
【发布时间】:2018-08-28 16:43:59
【问题描述】:

我正在尝试使用 java API 创建一个空的外部 BigQuery 表。

在我们的流程中,在表创建和 avro 文件到达之间存在间隙,因此我需要创建没有任何基础数据的表。 ExternalTableDefinition 允许指定 sourceUri 和模式。

所以我尝试使用 null sourceUri 和有效架构。 我收到此错误: “STORAGE_FORMAT_AVRO 不允许指定模式”

为什么会有限制?

有什么方法可以仅基于架构创建外部 avro 表?

提前致谢

【问题讨论】:

    标签: google-bigquery


    【解决方案1】:

    您不能创建一个空的外部

    但是,您可以尝试使用虚拟/空 avro 文件,该文件将定义您的架构并在从源创建外部表时使用它。
    重要 - 您可以在 gs://mybucket/path/to/myAvroFiles* 中使用通配符,因此匹配它的迟到文件将通过该外部表提供

    【讨论】:

    • 其实我就是这么做的;这似乎有点矫枉过正,因为 API 允许同时指定两者。没有理由限制...
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2018-11-01
    • 2017-07-12
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多