调试 CPU 缓存

Question

我目前正在尝试优化我的软件以更好地使用 CPU 缓存。 SO上有一些帖子表明有时很难猜测 CPU 缓存在做什么以及为什么在某些情况下会出现一些性能下降。例如：

• Why does the speed of memcpy() drop dramatically every 4KB?
• Why is my program slow when looping over exactly 8192 elements?
• Why is transposing a matrix of 512x512 much slower than transposing a matrix of 513x513?

因此，为了了解缓存未命中发生的位置，我可以运行 perf 来获取缓存未命中的计数以及它们发生的位置以及 valgrind --tool=cachegrind 来模拟缓存（至少一个 L1 和一个最后一级缓存）。

很高兴知道在哪里缓存未命中发生，但我想知道为什么会发生（例如缓存丢弃等）。有没有办法显式暂停程序并查看缓存中的内容（可能在附加的valgrind 和vgdb 中运行程序）？

Answer 1

根据我的经验，您需要反汇编二进制文件，然后查看程序在哪里使用缓存。查看调用预取或缓存指令的位置。这将为您提供它的位置和原因。这是一个不幸的痛苦过程。