【问题标题】:Analyzing DynamoDB data using AWS Athena使用 AWS Athena 分析 DynamoDB 数据
【发布时间】:2021-06-01 14:46:26
【问题描述】:

我有一个 DynamoDB,其中包含要为其创建仪表板的表和项目。经过研究,我了解到 AWS Athena 和 Quicksight 允许我分析、查询并为我的站点创建仪表板。我设置了所有必要的连接器,以通过 Lambda 将 Dynamo 表项流式传输到 S3 存储桶,该存储桶使用 AWS Glue 进行爬网,然后在 Athena 中访问。我的问题是,这是否意味着我所有的 DynamoDB 表项都存储了两次?一次在 DynamoDB 中,一次在 Athena 用来查询数据的 S3 存储桶中?

将我的数据放在两个位置是否可行?还有其他解决方案吗?

【问题讨论】:

  • 是的。它是构建数据工具的标准模式,您可以在其中查询大量数据和/或提供跨数据的动态查询(例如,数据科学团队)。 Dynamodb 具有高度的可靠性和可扩展性,但完全不适合开放式大数据查询。您的技术选择很好,S3 非常便宜,Athena 也很便宜,因为它是无服务器的。弹性搜索和基于服务器的工具往往要贵得多。听起来你在我看来是正确的。

标签: amazon-web-services amazon-s3 amazon-dynamodb amazon-athena


【解决方案1】:

将 DynamoDB 数据存储在其他数据存储中是很常见的,尤其是因为 DynamoDB 不适合全文搜索并且分析全表的成本很高。所以,是的,数据将被复制。

最常见的模式是:

【讨论】:

  • 那么将数据加载到 S3 并从 Athena 查询比直接从 dynamo 扫描/查询更智能?
  • 是的。 100%,扫描 DynamoDb 表效率不高,而且非常昂贵。
猜你喜欢
  • 2015-12-26
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2022-11-23
  • 1970-01-01
  • 2019-05-05
  • 2017-03-29
  • 1970-01-01
相关资源
最近更新 更多