【问题标题】:MySql MyISAM INSERT slownessMySql MyISAM INSERT 缓慢
【发布时间】:2013-09-22 08:42:41
【问题描述】:

在 mysql 表中插入一些数据时遇到性能问题。 该表有一堆列,假设 DATE,A,B,C,D,E,F 其中 DATE,A,B,C,D,E 是主键。每天,我在该表中插入 70k 行(日期不同),现在该表包含 1800 万行。我用来插入行的方法只是发送 70k INSERT 查询。

我遇到的问题是查询开始比以前花费更多的时间。从几分钟到几个小时。我分析了插入物,这是我得到的图表:

每次插入的速度(以秒为单位)与当天的插入次数:

一些奇怪的事实:

  1. 大多数查询的执行时间不到 2 毫秒
  2. 慢查询的速度随着该日期表中的行数线性增加
  3. 这种行为只发生在晚上,在数据库上发生了一堆进程之后。白天插入速度很快,周末也是如此
  4. 整体速度不取决于数据库上运行的其他内容,事实上,发生这种情况时,数据库上没有其他内容运行
  5. 查询中没有任何内容可以解释查询快与否,快的与慢的非常相似,从一天到另一天也不一样。
  6. 行为不会从一天到另一天发生变化。

知道是什么原因造成的吗?

** 编辑 ** 索引中的列按以下顺序排列:

DATE NOT NULL,
DATE NOT NULL,
VARCHAR (10) NOT NULL,
VARCHAR (45) NOT NULL,
VARCHAR (45) NOT NULL,
VARCHAR (3) NOT NULL,
VARCHAR (45) NOT NULL,
DOUBLE NOT NULL,
VARCHAR (10) NOT NULL,
VARCHAR (45) NOT NULL,
VARCHAR (45) NOT NULL,
VARCHAR (45) NOT NULL,

日期要么与今天相同,要么留空,双精度数始终相同(不知道是谁设计了这张表)

【问题讨论】:

  • 插入的记录数和数据库中已有的记录数之间可能存在相关性。较大的索引需要更多时间来更新。
  • @tadman:你如何解释它只在一天中的特定时间发生?
  • 你有哪些指标?其中是否包含日期(没有时间)?如果是这样,这可以解释随着时间推移的差异,因为 b-tree 重新平衡将在一天中增加......
  • 我不知道性能问题是什么。但是,我可能会建议您将 70,000 个新插入加载到临时表中,然后使用它进行插入。
  • @PinnyM:只有一个索引,即主键的索引。是的,有一个日期,但对于一组 70k 查询而言,它始终是同一日期,并且是索引中最左侧的项目

标签: mysql sql performance


【解决方案1】:

简短的解释是您有一个在单日范围内非增量的索引。非增量索引通常插入/更新较慢,因为它们更经常需要重新平衡索引树,并且在更大程度上比增量索引。

为了进一步解释 - 假设以下架构:

a (int) | b (varchar)

并且索引是(a, b)

现在我们插入:

1, 'foo'
2, 'bar'
3, 'baz'

这将非常快,因为索引将附加到每个插入。现在让我们尝试以下方法:

100, 'foo'
100, 'bar'
100, 'baz'

这不会那么快,因为 'bar' 需要在 'foo' 之前插入,而 'baz' 需要插入其他两个之间。这通常需要索引重写树以适应,而这“再平衡”行动需要一些时间。重新平衡中涉及的组件越大(在这种情况下,a=100 的子集),所需的时间就越多。请注意,这种重新平衡活动只会更频繁地更广泛地发生,但不一定在每次插入时发生。这是因为树通常会在叶子内留出一些空间用于扩展。当叶子用完时,它知道是时候重新平衡了。

在您的情况下,由于您的索引主要基于当前日期,因此您会在一天的范围内不断地重新平衡您的树。每天都会开始一个新的范围,因此开始在当天的范围内重新平衡。最初,这仅涉及一点重新平衡,但这会随着您当天现有条目范围的增加而增加。当您开始新的一天时,循环会重新开始,这就是您所看到的结果。

这种情况发生在主键上可能会使事情变得更糟,因为不是移动一些索引指针,而是可能需要移动整行数据以适应新条目。 (最后一点假设 MyISAM 聚类是在主键上执行的,这一点我至今还没有得到澄清,尽管轶事证据似乎确实支持这一点。例如,参见 herehere。 )

【讨论】:

  • 这很好地解释了为什么索引会在更大的表上变慢。您可能建议的一件事是研究使用表分区将表分解为更多逻辑部分(如基于月份的分区)。还有
猜你喜欢
  • 2010-10-24
  • 2011-04-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2014-05-27
  • 2012-03-11
  • 1970-01-01
  • 2012-03-12
相关资源
最近更新 更多