循环中的空间局部性

Question

据我了解，空间局部性与在不久的将来使用的附近内存有关。但是我想知道是否多次执行循环，这会导致良好的空间局部性吗？在此先感谢，如果我难以理解，请见谅。

Answer 1

循环的迭代次数不一定会影响空间局部性。循环在做什么是做什么的。

在实践中，空间局部性的关键确实与缓存行有关。简单来说，限制对少量不同缓存行的访问的程序将表现出更多的缓存命中，从而获得更好的性能。访问大量不同缓存行的程序会遇到更多的缓存未命中，从而降低性能。

非常好的空间局部性：

uint8_t g_array[2];

void test(void) {
    int i, a=0;
    for (i=0; i<10000000; i++) {
        a += g_array[i % 2];      // Only ever accesses [0] or [1]
    }
}

这个循环有很好的空间局部性。数组很小，循环只访问索引 0 或 1。

---

空间局部性还是不错的：

uint8_t g_array[CACHELINE_SIZE] __attribute__ ((aligned (CACHELINE_SIZE)));

void test(void) {
    int i, a=0;
    for (i=0; i<10000000; i++) {
        a += g_array[i % CACHELINE_SIZE];
    }
}

这里我们有一个与一个缓存行对齐的数组。由于循环只访问该数组中的元素，我们可以说它具有良好的空间局部性 - 访问只会触及那个缓存行。

---

空间局部性差：

uint8_t g_array[RAND_MAX * CACHELINE_SIZE]
    __attribute__ ((aligned (CACHELINE_SIZE)));

void test(void) {
    int i, a=0;
    for (i=0; i<10000000; i++) {
        int r = rand();
        a += g_array[(r*CACHELINE_SIZE) + (i%CACHELINE_SIZE)];
    }
}

这个循环的空间局部性非常差。它正在访问整个内存中的随机位置。每次循环迭代，您可能会期望它反弹到不同的缓存行。这将导致各种缓存未命中，缓存本质上变得无用。