在 C 中使用限制关键字的规则？

Question

我试图了解何时以及何时不使用 C 中的 restrict 关键字，以及在什么情况下它提供了切实的好处。

读完“Demystifying The Restrict Keyword”（它提供了一些关于使用的经验法则）后，我的印象是，当一个函数被传递指针时，它必须考虑到所指向的数据可能重叠的可能性（别名）以及传递给函数的任何其他参数。给定一个函数：

foo(int *a, int *b, int *c, int n) {
    for (int i = 0; i<n; ++i) {
        b[i] = b[i] + c[i];
        a[i] = a[i] + b[i] * c[i];
    } 
}

编译器必须在第二个表达式中重新加载c，因为b 和c 可能指向同一个位置。出于同样的原因，它还必须等待b 被存储，然后才能加载a。然后它必须等待a 被存储，并且必须在下一个循环开始时重新加载b 和c。如果你这样调用函数：

int a[N];
foo(a, a, a, N);

然后你就会明白为什么编译器必须这样做。使用restrict 有效地告诉编译器你永远不会这样做，这样它就可以在存储b 之前删除c 的冗余负载并加载a。

In a different SO post, Nils Pipenbrinck, provides a working example of this scenario demonstrating the performance benefit.

到目前为止，我已经收集到在传递给不会被内联的函数的指针上使用restrict 是一个好主意。显然，如果代码是内联的，编译器可以找出指针不重叠。

现在我的情况开始变得模糊。

在 Ulrich Drepper 的论文“What every programmer should know about memory”中，他声明“除非使用了限制，否则所有指针访问都是潜在的别名来源”，并且他给出了一个子矩阵乘法的具体代码示例，其中他使用restrict。

但是，当我使用或不使用restrict 编译他的示例代码时，两种情况下我都会得到相同的二进制文件。我正在使用gcc version 4.2.4 (Ubuntu 4.2.4-1ubuntu4)

我无法在以下代码中弄清楚是否需要重写以更广泛地使用restrict，或者GCC中的别名分析是否非常好以至于能够弄清楚没有任何参数相互别名。 出于纯粹的教育目的，我如何才能在此代码中使用或不使用 restrict - 为什么？

对于restrict 编译为：

gcc -DCLS=$(getconf LEVEL1_DCACHE_LINESIZE) -DUSE_RESTRICT -Wextra -std=c99 -O3 matrixMul.c -o matrixMul

只需删除-DUSE_RESTRICT 即可不使用restrict。

#include <stdlib.h>
#include <stdio.h>
#include <emmintrin.h>

#ifdef USE_RESTRICT
#else
#define restrict
#endif

#define N 1000
double _res[N][N] __attribute__ ((aligned (64)));
double _mul1[N][N] __attribute__ ((aligned (64)))
    = { [0 ... (N-1)] 
    = { [0 ... (N-1)] = 1.1f }};
double _mul2[N][N] __attribute__ ((aligned (64)))
    = { [0 ... (N-1)] 
    = { [0 ... (N-1)] = 2.2f }};

#define SM (CLS / sizeof (double))

void mm(double (* restrict res)[N], double (* restrict mul1)[N], 
        double (* restrict mul2)[N]) __attribute__ ((noinline));

void mm(double (* restrict res)[N], double (* restrict mul1)[N], 
        double (* restrict mul2)[N])
{
 int i, i2, j, j2, k, k2; 
    double *restrict rres; 
    double *restrict rmul1; 
    double *restrict rmul2; 

    for (i = 0; i < N; i += SM)
        for (j = 0; j < N; j += SM)
            for (k = 0; k < N; k += SM)
                for (i2 = 0, rres = &res[i][j],
                    rmul1 = &mul1[i][k]; i2 < SM;
                    ++i2, rres += N, rmul1 += N)
                    for (k2 = 0, rmul2 = &mul2[k][j];
                        k2 < SM; ++k2, rmul2 += N)
                        for (j2 = 0; j2 < SM; ++j2)
                          rres[j2] += rmul1[k2] * rmul2[j2];
}

int main (void)
{

    mm(_res, _mul1, _mul2);

 return 0;
}

Answer 1

您的示例代码的问题是编译器只会内联调用，并看到您的示例中不可能有别名。我建议你删除 main() 函数并使用 -c 编译它。

Answer 2

值得注意的是，clang 的最新版本能够生成带有别名的运行时检查代码和两个代码路径：一个用于存在潜在别名的情况，另一个用于明显存在别名的情况是没有机会的。

这显然取决于指向编译器显眼的数据范围 - 就像在上面的示例中一样。

我认为主要的理由是大量使用 STL 的程序 - 特别是 <algorithm> ，其中很难或不可能引入 __restrict 限定符。

当然，这一切都以牺牲代码大小为代价，但消除了许多潜在的隐蔽错误，这些错误可能导致声明为 __restrict 的指针不像开发人员想象的那样不重叠。

如果 GCC 没有得到这个优化，我会感到惊讶。

Answer 3

（实际上，我不知道使用这个关键字是否会给你带来显着的优势。程序员很容易使用这个限定符出错，因为没有强制执行，所以优化器不能确定程序员没有“撒谎”。）

当您知道指针 A 是指向某个内存区域的唯一指针时，也就是说，它没有别名（也就是说，任何其他指针 B 都必然不等于 A, B != A），您可以通过使用“restrict”关键字限定 A 的类型来将这一事实告诉优化器。

我在这里写过这个：http://mathdev.org/node/23 并试图证明一些受限指针实际上是“线性的”（如那篇文章中所述）。

Answer 4

如果有任何区别，将mm 移至单独的 DSO（这样 gcc 不再知道调用代码的所有内容）将是演示它的方法。

Answer 5

此外，GCC 4.0.0-4.4 有一个回归错误，导致限制关键字被忽略。此错误已在 4.5 中报告为已修复（但我丢失了错误编号）。

Answer 6

您是在 32 位还是 64 位 Ubuntu 上运行？如果是 32 位，那么您需要添加 -march=core2 -mfpmath=sse（或任何您的处理器架构），否则它不使用 SSE。其次，为了使用 GCC 4.2 启用矢量化，您需要添加 -ftree-vectorize 选项（从 4.3 或 4.4 开始，这默认包含在 -O3 中）。可能还需要添加 -ffast-math（或提供宽松浮点语义的其他选项），以允许编译器重新排序浮点运算。

另外，添加-ftree-vectorizer-verbose=1 选项以查看它是否能够对循环进行矢量化；这是检查添加限制关键字效果的简单方法。

Answer 7

可能这里所做的优化不依赖于不被别名的指针？除非您在将结果写入 res2 之前预加载多个 mul2 元素，否则我看不到任何别名问题。

在您展示的第一段代码中，很清楚会发生什么样的别名问题。 这里不是很清楚。

重读 Dreppers 的文章，他并没有特别说限制可以解决任何问题。甚至还有这句话：

{理论上是restrict关键字 在 C 语言中引入 1999年修订应解决 问题。编译器没有赶上 然而，虽然。原因主要是 存在太多不正确的代码 会误导编译器并导致 它会生成不正确的目标代码。}

在这段代码中，内存访问的优化已经在算法中完成。残差优化似乎是在附录中提供的矢量化代码中完成的。所以对于这里展示的代码，我想没有区别，因为没有做依赖于restrict的优化。每个指针访问都是别名的来源，但并非所有优化都依赖于别名。

过早的优化是万恶之源，restrict关键字的使用应该限制在你正在积极研究和优化的情况下，不要在可以使用的地方使用。

Answer 8

这是对代码优化器的提示。使用 restrict 可以确保它可以将指针变量存储在 CPU 寄存器中，而不必将指针值的更新刷新到内存中，以便别名也被更新。

它是否利用它在很大程度上取决于优化器和 CPU 的实现细节。代码优化器已经在检测非混叠方面投入了大量资金，因为它是一项非常重要的优化。在您的代码中检测到它应该没有问题。