【问题标题】:PHP Cloud Datastore and Cloud DataflowPHP 云数据存储和云数据流
【发布时间】:2017-08-17 07:23:15
【问题描述】:
我旨在通过 GAE Flex (PHP) 将来自 IoT 设备的原始数据保存到 Cloud DataStore。我还想通过 Cloud DataFlow 将这些数据带到 BigQuery。但是,我找不到标准或官方文档来表达在 DataStore 和 DataFlow 服务之间读取和转储数据的方式。
【问题讨论】:
标签:
php
google-cloud-datastore
google-cloud-platform
google-cloud-dataflow
google-cloud-bigtable
【解决方案1】:
实现此目的的最简单方法是使用 BigQuery 加载 Cloud Datastore 备份的功能。基本上只需将定期备份安排到 GCS 存储桶中,然后将备份从 GCS 加载到 BigQuery。 [documentation]。
如果您想使用 Dataflow,您可以使用 Java 或 Python 中的 DatastoreIO 源(抱歉,这里没有 PHP)。 [documentation]
将查询结果读入 PCollection:
Pipeline p = Pipeline.create(options);
PCollection<Entity> entities = p.apply(
DatastoreIO.v1().read()
.withProjectId(projectId)
.withQuery(myQueryObject));
然后将此 PCollection 写入您想要数据的任何位置。