【发布时间】:2021-01-10 14:54:25
【问题描述】:
我正在开发各种直接与 BigQuery 对话的服务,方法是将行流式传输到数据库中。现在我正在直接从 Google 云用户界面更新架构,这会导致您可以想象由于健忘而出现的问题!
我想了解如何最好地保持代码和模式与仍在快速发展的服务和模式保持一致。
我目前的想法是:
- 使用 Terraform 之类的东西,但我不确定它如何在需要更新或迁移的实时表上工作
- 向服务中添加代码以检查/设置架构,如果不使流程自动化,这至少会引发错误
提前致谢!
编辑:
根据 cmets 的要求给出更清晰的说明;我们正在使用云运行的微服务将行流式传输到 bigquery,这些服务是用 python/node 编写的。他们的主要目标是对数据进行一些轻度转换并存储在 BQ 中。
不太确定还要添加什么,我的理想情况是我们在代码中有一些东西也定义或至少检查架构,以保持代码和数据库同步。
【问题讨论】:
-
@dendog,实际上 Bigquery 正在利用各种 APIs and Libraries,这可能会解决很多问题,甚至简化的
bqcommand-line 工具可以成为完成几乎所有 Bigquery 管理操作的良好起点。您能否详细说明最初的任务,以获取有关功能预期的更多详细信息?
标签: database google-cloud-platform google-bigquery terraform infrastructure-as-code