【问题标题】:Redshift Cluster Resize [Insufficient Disk Space]Redshift Cluster Resize [磁盘空间不足]
【发布时间】:2020-07-31 20:21:29
【问题描述】:

我们目前有一个带有 ds2.xlarge 的 Redshift 集群,我们希望将大小调整为 dc2.large,但这样做时遇到了问题。我们收到一个错误,说磁盘空间不足。

目前,我们有大约 720GB 的数据,我们正在尝试将其调整为具有 5 个节点 (800GB) 的 dc2。

我不确定我们为什么会得到这个?你有什么想法吗?

【问题讨论】:

  • 我想知道您是否可以拍摄快照,然后将快照恢复到不同大小的集群?这在以前是不可能的,但现在可能是允许的。或者,您可以尝试先更改节点数,然后更改节点类型吗?
  • 我会试试这个。谢谢!

标签: amazon-web-services amazon-redshift


【解决方案1】:

Hibari - 不建议将 720GB 的数据打包到最大存储为 800GB 的 Redshift 集群中。这有几个原因:

  1. 需要磁盘空间作为暂存空间来执行查询和其他数据操作(真空)
  2. 暂存数据存储在磁盘上时不会压缩
  3. 数据加载操作(例如 COPY)需要空间来存储传入数据
  4. Redshift 基于多版本一致性,因此需要保留许多额外的块,以便事务能够访问正确的数据

您在节点类型之间的转换将影响数据在磁盘上的存储方式 - 您正在从具有 16 个切片的 1 个(?)节点移动到具有 10 个切片的 5 个节点。如果您有分发所有表,这些表将被存储 5 次,而不是一次。这个新集群上的数据库大小可能不同 - 它可能更小或更大。

我希望真正的限制在于组织新集群上的数据,因为它来自旧集群。正如我提到的,飞行中的数据是未压缩的,很可能是这个工作集导致了这个问题。

你需要一个更大的集群来存储这么多数据。

【讨论】:

  • 问题是,我们真正的问题是 ds2 集群中的查询太慢了,以至于我们计划迁移到 dc2。我不确定它是否在规格本身或我们的桌子设计上。但是,是的,你说得有道理。会记住这一点。非常感谢!
  • 增加 dc2.large 的 7 个节点将为您提供执行数据操作的空间以及更多的计算和内存来执行这些查询。 SSD 驱动器也将有助于您的工作量
  • 我同意,这就是我建议调整团队大小的原因,也许这对我们的情况有所帮助。
猜你喜欢
  • 2016-06-08
  • 2013-10-09
  • 2015-12-04
  • 2015-12-30
  • 1970-01-01
  • 2018-01-30
  • 1970-01-01
  • 1970-01-01
  • 2019-05-06
相关资源
最近更新 更多