【发布时间】:2022-01-27 03:34:08
【问题描述】:
在 GCP 中,我想知道是否可以将数据从 Bigtable 传输/移动到 BigQuery。即假设我希望所有超过 1 年的数据都应该从 Bigtable 移动到 BigQuery。这可行吗?
有人可以帮我解决这个问题吗
【问题讨论】:
标签: google-cloud-platform google-bigquery bigtable
在 GCP 中,我想知道是否可以将数据从 Bigtable 传输/移动到 BigQuery。即假设我希望所有超过 1 年的数据都应该从 Bigtable 移动到 BigQuery。这可行吗?
有人可以帮我解决这个问题吗
【问题讨论】:
标签: google-cloud-platform google-bigquery bigtable
感谢external table configuration,您可以从 BigQuery 查询 BigTable 数据。
由于您能够从 BigQuery 查询数据,因此您可以在 BigQuery 表中执行 INSERT SELECT。
编辑 1
您无法自动执行此操作。您必须执行自定义代码以仅复制旧数据,然后删除旧数据。
你必须有一个时间戳字段。要将数据从 BigTable 复制到 BigQuery,您可以使用外部表。但您无法从 BigQuery 外部连接中删除数据。
要清除 BigTable 数据,您可以使用 garbage collection 功能。
【讨论】: