【问题标题】:Google Cloud Platform Data Display谷歌云平台数据展示
【发布时间】:2018-06-26 22:57:28
【问题描述】:

我目前有一个在 Google Cloud Platform 上运行的应用程序,它正在收集大量数据并将其存储在 Google Cloud Datastore 中,并且我正在使用 Google Data Studio 在绘图中显示这些数据。但是,为了做到这一点,我必须将数据备份发送到 Google Cloud Storage,然后将这些备份加载到 Google BiqQuery 中,然后可以在 Google Data Studio 上进行绘制。由于我的应用程序正在实时收集实时数据,因此这是一个不太理想的解决方案,因为我无法查看我的绘图上的实时数据:只能查看我已经备份和加载的数据。我想知道是否有更好的方法可以直接在 Google Data Studio 中显示实时数据?我正在考虑的替代方案是为我的应用程序编写一个前端页面,并在 Python 中手动完成这一切,如果可能的话,我宁愿避免这样做。

非常感谢任何建议!

【问题讨论】:

  • 我同意 Dan 的回答,看看是否有可能从您的应用程序中实时插入 BQ,同时将数据保存到 Datastore。您可以使用PubSub 和Dataflow 来执行此操作。 Google 已经为此提供了预建的dataflow templates。

标签: google-bigquery google-cloud-platform google-cloud-datastore google-cloud-storage google-data-studio


【解决方案1】:

我会调查将数据从应用程序直接推送到 BiqQuery。来自Streaming Data into BigQuery:

不用load data into BigQuery的job,你可以选择 使用 tabledata().insertAll() 方法。这种方法可以查询 数据,而不会延迟运行加载作业。本文档讨论 在选择方法之前要考虑的几个重要权衡, 包括流配额、数据可用性和数据一致性。

【讨论】:

    猜你喜欢
    • 2020-06-02
    • 2018-01-10
    • 1970-01-01
    • 1970-01-01
    • 2020-12-11
    • 1970-01-01
    • 2020-08-06
    • 2018-09-26
    • 1970-01-01
    相关资源
    最近更新 更多