【问题标题】:Use own cloud environment instead of Snowflake managed s3 for storing data使用自己的云环境而不是 Snowflake 托管的 s3 来存储数据
【发布时间】:2021-10-22 08:38:37
【问题描述】:

我们知道 Snowflake 是基于云的分析数据仓库,作为 Saas 提供,可在这些云环境(AWS、Azure、GCP)上使用。我们可以选择像 AWS 这样的云环境,数据将存储在雪花托管的 S3 存储桶中。是否可以使用我们的 AWS 云环境而不是为存储管理的雪花?有什么选择吗?

【问题讨论】:

    标签: database amazon-web-services amazon-s3 storage snowflake-cloud-data-platform


    【解决方案1】:

    使用您自己的公共云托管环境的唯一方法是作为外部平台,您可以:

    • 在加载到 snwoflake 之前暂存数据
    • 从雪花中卸载后的阶段数据
    • 暂存数据并使用外部表在雪花中查询它们

    【讨论】:

      【解决方案2】:

      是的,您可以使用自己的基于云的存储,但从性能和功能的角度来看,这不是最佳选择。为此,您将使用外部舞台。外部表存储有关数据文件的文件级元数据,例如文件名、版本标识符和相关属性。这使得在外部阶段的文件中存储的数据能够像在数据库中一样查询。外部表可以访问以COPY INTO <table> 语句支持的任何格式存储的数据。

      外部表是只读的,因此不能对它们执行 DML 操作;但是,外部表可用于查询和连接操作。可以针对外部表创建视图。

      查询存储在数据库外部的数据可能比查询本地数据库表要慢;但是,基于外部表的物化视图可以提高查询性能。

      https://docs.snowflake.com/en/user-guide/tables-external-intro.html

      【讨论】:

        猜你喜欢
        • 1970-01-01
        • 2020-01-03
        • 2015-08-11
        • 1970-01-01
        • 1970-01-01
        • 2021-11-30
        • 1970-01-01
        • 2011-05-19
        • 2019-07-05
        相关资源
        最近更新 更多