【问题标题】:Big Query Import from firestore从 Firestore 导入 Big Query
【发布时间】:2019-11-01 05:48:53
【问题描述】:

我正在考虑使用 BigQuery 作为解决方案,但我不确定它在导入方面的功能(并且找不到它的文档)。

我目前正在使用 Firestore,并且正在执行每日备份。我想获取这些备份并将它们导入 BigQuery。这似乎得到了很好的支持。

我的问题是每次导入是否会获得一整套数据(基本上是复制当天未更改的任何内容)还是可以将其配置为仅导入更新的字段?我是否必须编写完整的 ETL 才能完成此操作,还是已经支持。

谢谢。

【问题讨论】:

    标签: google-bigquery google-cloud-firestore database-backups


    【解决方案1】:

    BigQuery 中的每个导入都将具有 all fields by default。您不能将其配置为仅导入更新的字段。但是,您可以通过在 CLI 中使用 --projection_fields flag 或在 API 中设置 projectionFields property 来使用 CLI or API 加载特定字段。请注意,BigQuery 网页界面中不提供此功能。

    另外请注意,您的表中不会有重复的数据,因为您可以创建一个新表来存储数据,或者在将 Cloud Firestore 导出加载到 BigQuery 时覆盖现有表。无法根据当前 limitations 将 Cloud Firestore 导出数据添加到现有表中。

    查看 Cloud Firestore 和 BigQuery 文档,目前似乎没有 ETL 工具可以满足您的需求。我在 Google 问题跟踪器上提出了BigQuery feature request。请在工单中添加以下信息,以便通知正确的团队:

    • 这对您的公司和日常任务有何影响?

    【讨论】:

      【解决方案2】:

      现在有一个针对 BigQuery 的 Firestore 扩展。 https://firebase.google.com/products/extensions/firestore-bigquery-export

      【讨论】:

        猜你喜欢
        • 1970-01-01
        • 1970-01-01
        • 2018-07-28
        • 2021-09-10
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 2020-02-15
        相关资源
        最近更新 更多