【问题标题】:How to import a json data into google cloud datastore. How to import data into BigQuery from Datastore from code如何将 json 数据导入谷歌云数据存储。如何从代码中将数据从 Datastore 导入 BigQuery
【发布时间】:2018-05-25 19:24:31
【问题描述】:

我想实现一个管道,将数据存储在 Cloud Datastore 中,然后在 BigQuery 中增量读取它,将 Bigquery 数据转换为 Tf 记录,然后运行 ​​ML Tf 算法。我没有将 json 文件导入数据存储并将数据从 Python 代码再次导出到 Bigquery 的干净方法。

【问题讨论】:

    标签: google-bigquery google-cloud-datastore google-cloud-platform


    【解决方案1】:

    我可以逐渐找到将 JSON 文件加载到 DataStore 的答案。

    如何将 JSON 数据导入 Datastore 的答案是: https://cloud.google.com/datastore/docs/reference/data/rest/v1/Entity

    可在此处找到 Google Datastore 支持的各种类型:

    https://cloud.google.com/appengine/docs/standard/python/datastore/entities#Python_Properties_and_value_types

    Cloud Datastore 现在具有导入和导出功能,可用于将 Cloud Datastore 实体加载到 BigQuery:

    【讨论】:

      【解决方案2】:

      对于任何搜索此内容的人,在 DataStore 文档迷宫的深处,您可以找到如何将本地数据文件类型(如 JSON、CSV 等)加载到 DataStore 数据库中,此处其他答案提供的链接已失效,因此您可以在这里找到去:

      【讨论】:

        猜你喜欢
        • 2014-01-07
        • 1970-01-01
        • 2016-06-07
        • 2018-03-31
        • 1970-01-01
        • 2017-02-10
        • 2017-09-27
        • 1970-01-01
        • 2021-06-27
        相关资源
        最近更新 更多