与没有优化标志相比，memcpy 的行为不同

Question

考虑这个演示程序：

#include <string.h>
#include <unistd.h>

typedef struct {
    int a;
    int b;
    int c;
} mystruct;

int main() {
    int TOO_BIG = getpagesize();
    int SIZE = sizeof(mystruct);
    mystruct foo = {
        123, 323, 232
    };

    mystruct bar;
    memset(&bar, 0, SIZE);
    memcpy(&bar, &foo, TOO_BIG);
}

我编译这两种方式：

1. gcc -O2 -o buffer -Wall buffer.c
2. gcc -g -o buffer_debug -Wall buffer.c

即第一次启用优化，第二次使用调试标志且没有优化。

首先要注意的是编译时没有警告，尽管getpagesize 返回的值会导致memcpy 的缓冲区溢出。

其次，运行第一个程序会产生：

*** buffer overflow detected ***: terminated
Aborted (core dumped)

而第二个产生

*** stack smashing detected ***: terminated
Aborted (core dumped)

或者，你必须相信我，因为我无法使用演示程序重现这一点，有时根本没有警告。该程序甚至没有中断，它正常运行。这是我在一些更复杂的代码中遇到的一种行为，这使得调试变得困难，直到我意识到发生了缓冲区溢出。

我的问题是：为什么会有两种不同的行为和不同的构建标志？为什么有时在构建为调试版本时执行时没有错误，但在构建优化时总是出错？

Answer 1

..我无法使用演示程序重现此问题，有时根本没有警告...

undefined behavior 指令非常广泛，编译器不需要为表现出这种行为的程序发出任何警告：

为什么会有两种不同的行为和不同的构建标志？为什么在构建为调试构建时有时执行时没有错误，但在构建优化时总是出错？

编译器优化倾向于优化掉未使用的变量，如果 I compile your code 启用优化我没有遇到分段错误，查看程序集（上面的链接），你会注意到有问题的变量被优化掉了，并且memcpy 没有被调用，所以它没有理由不成功编译，程序以成功代码 0 退出，而如果不优化它，未定义的行为就会表现出来，程序以代码 139 退出，经典的分段错误退出代码。

如您所见，这些结果与您的不同，这是未定义行为的特性之一，不同的编译器、系统甚至编译器版本的行为方式可能完全不同。

Answer 2

访问分配后的内存是未定义的行为，这意味着编译器可以做任何事情。当没有优化时，编译器可能会尝试猜测并做一些合理的事情。打开优化后，编译器可能会利用允许任何行为执行更快运行的事实这一事实。

Answer 3

首先要注意的是编译时没有警告，尽管 getpagesize 返回的值会导致 memcpy 导致缓冲区溢出。

这是程序员的责任，而不是编译器。如果编译器设法为您找到潜在的缓冲区溢出，您将非常幸运。它的工作是检查您的代码是否有效 C 然后将其转换为机器代码。

如果您想要一个捕捉错误的工具，它们被称为静态分析器，这是一种不同类型的程序。在某种程度上，静态分析可能作为一项功能集成到编译器中。 clang 有一个，但大多数静态分析器都是商业工具，不是开源的。

其次，运行第一个程序会产生： ... 而第二个会产生

未定义的行为仅仅意味着没有定义的行为。 What is undefined behavior and how does it work?。这意味着不可能从检查结果中学到任何东西，没有有趣的谜团可以解决。在一种情况下，它显然访问了禁止的内存，在另一种情况下，它破坏了一个可怜的小“堆栈金丝雀”。差异将与不同的内存布局有关。谁在乎 - 错误就是错误。专注于为什么会发生错误（你已经知道了！），而不是试图理解未定义的结果。

现在，当我运行您的代码时，实际上真正启用了优化（在 x86 Linux 上为gcc -O2），编译器给了我

main:
        subq    $8, %rsp
        call    getpagesize
        xorl    %eax, %eax
        addq    $8, %rsp
        ret

实际上启用了优化后，它甚至不需要调用 memcpy 和朋友，因为没有副作用并且不使用变量，因此可以安全地从可执行文件中删除它们。