C 非法指令

Question

下面是我写的一个 c 程序的打印输出，我运行它的演示，最后是关于我的编译器的一些信息。

➜  illegalInstructionDebug cat illegal.c
#include <stdio.h>
#include <stdlib.h>
#include <math.h>

void func(int* Z){
    Z[-11] = acos(2);
}

int main(){
    fflush(stdout);
    printf("");
    fflush(stdout);
    int X[3];
    int Z[3];
    for (int n=0;0!=0;);
    func(Z);
}
➜  illegalInstructionDebug gcc illegal.c; ./a.out
[1]    28836 illegal hardware instruction  ./a.out
➜  illegalInstructionDebug clang --version
Apple clang version 11.0.3 (clang-1103.0.32.62)
Target: x86_64-apple-darwin19.6.0
Thread model: posix
InstalledDir: /Library/Developer/CommandLineTools/usr/bin
➜  illegalInstructionDebug

我正在编写一个程序，遇到了一个非法指令错误，这是我以前从未见过的，所以我决定尝试找到一个最小的工作示例，以便找出它与段错误或其他类型的区别的错误。奇怪的是，程序中的微小更改似乎会使它返回一个段错误而不是非法指令错误。尽管如此，我还是设法将程序大幅缩减为一个更小的工作示例。话虽如此，对于一个最小的工作示例来说，该程序仍然相当大。

我的问题首先是为什么会出现非法指令错误，其次是什么是非法指令错误。此外，如果此错误特定于我的机器，我也会感兴趣。这个程序有很多奇怪的属性。例如，似乎需要数字 -11 才能导致错误。

Answer 1

这个

void func(int *Z){
    Z[-11] = acos(2);
}

很可能会覆盖堆栈中的某些代码地址。很可能是退货地址。由于堆栈在 x86-64 上向下增长，并且您正在向较低地址写入内容，这意味着将返回地址放置在堆栈上 after 空间为Z 被保留，所以我假设这将命中来自func() 的返回地址。更重要的是，您将覆盖返回地址的 一半。

acos(2) 是一个域错误，并返回 NaN，它在我的 GCC 上转换为 int 导致 INT_MIN 被写入那里......您应该实际使用调试器并查看发生崩溃的上下文，我猜它位于一个包含大量 fs 十六进制表示的地址。

当从 RIP 开始的字节未解码为有效的 x86-64 指令或 for other reasons 时，会引发无效指令。