【问题标题】:GCP moving Bigtable data to BigQueryGCP 将 Bigtable 数据移至 BigQuery
【发布时间】:2022-01-27 03:34:08
【问题描述】:

在 GCP 中,我想知道是否可以将数据从 Bigtable 传输/移动到 BigQuery。即假设我希望所有超过 1 年的数据都应该从 Bigtable 移动到 BigQuery。这可行吗?

有人可以帮我解决这个问题吗

【问题讨论】:

    标签: google-cloud-platform google-bigquery bigtable


    【解决方案1】:

    感谢external table configuration,您可以从 BigQuery 查询 BigTable 数据。

    由于您能够从 BigQuery 查询数据,因此您可以在 BigQuery 表中执行 INSERT SELECT。


    编辑 1

    您无法自动执行此操作。您必须执行自定义代码以仅复制旧数据,然后删除旧数据。

    你必须有一个时间戳字段。要将数据从 BigTable 复制到 BigQuery,您可以使用外部表。但您无法从 BigQuery 外部连接中删除数据。

    要清除 BigTable 数据,您可以使用 garbage collection 功能。

    【讨论】:

    • 感谢您的回复,但是我们如何配置 1 年的保留期以将数据从 Bigtable 移动到 BigQuery
    • 我更新了答案
    • 您无法从 Bigtable 中删除数据是什么意思.....这是 GCP Bigtable 中我们无法删除数据的正常行为吗
    • 不,不,我在 BigTable 和 BigQuery 之间犯了一个错误。您无法从 BigQuery 外部连接中删除数据,它是只读的。您必须使用 BigTable 功能来更新/删除 BigTable 数据。
    猜你喜欢
    • 1970-01-01
    • 2019-07-15
    • 2021-10-05
    • 2019-07-31
    • 1970-01-01
    • 2020-07-28
    • 2016-12-26
    • 2020-11-30
    • 1970-01-01
    相关资源
    最近更新 更多