带有 GCC 和布尔指针的条件运算符的奇怪结果

Question

在下面的代码中，我将memset() 一个stdbool.h bool 变量值123。 （也许这是未定义的行为？）然后我将指向该变量的指针传递给受害函数，该受害函数尝试使用条件操作来防止意外值。但是，出于某种原因，GCC 似乎完全删除了条件操作。

#include <stdio.h>
#include <stdbool.h>
#include <string.h>

void victim(bool* foo)
{
    int bar = *foo ? 1 : 0;
    printf("%d\n", bar);
}

int main()
{
    bool x;
    bool *foo = &x;
    memset(foo, 123, sizeof(bool));
    victim(foo);
    return 0;
}

user@host:~$ gcc -Wall -O0 test.c 用户@主机：~$ ./a.out 123

让这特别烦人的是victim()函数实际上是在一个库中，如果值大于1就会崩溃。

在 GCC 版本 4.8.2-19ubuntu1 和 4.7.2-5 上转载。未在 clang 上复制。

Answer 1

（也许这是未定义的行为？）

不是直接，而是从对象中读取。

引用 C99：

6.2.6 类型的表示

6.2.6.1 常规

5 某些对象表示不需要表示对象类型的值。如果存储 一个对象的值具有这样的表示，并由一个左值表达式读取 没有字符类型，行为未定义。 [...]

基本上，这意味着如果特定实现已确定 bool 的唯一两个有效字节是 0 和 1，那么您最好确保您不使用任何诡计尝试将其设置为任何其他值。

Answer 2

GCC编译这个程序时，汇编语言输出包括序列

movzbl (%rax), %eax
movzbl %al, %eax
movl %eax, -4(%rbp)

执行以下操作：

1. 将*foo中的32位（在汇编中用(%rax)表示）复制到寄存器%eax，并用零填充%eax的高位（不是说有，因为%eax是一个 32 位寄存器）。
2. 将%eax的低8位（用%al表示）复制到%eax，并用零填充%eax的高位。作为 C 程序员，您可以将其理解为 %eax &= 0xff。
3. 将%eax的值复制到%rbp上方4个字节，也就是bar在栈上的位置。

所以这段代码是汇编语言的翻译

int bar = *foo & 0xff;

很明显，GCC 已经优化了这一行，因为bool 不应该包含除 0 或 1 以外的任何值。

如果你把C源代码中的相关行改成这个

int bar = *((int*)foo) ? 1 : 0;

然后程序集更改为

movl (%rax), %eax
testl %eax, %eax
setne %al
movzbl %al, %eax
movl %eax, -4(%rbp)

执行以下操作：

1. 从*foo（在汇编中用(%rax)表示）复制32位到寄存器%eax。
2. 针对自身测试%eax 的 32 位，这意味着将其与自身进行“与”并根据结果在处理器中设置一些标志。 （这里不需要ANDing，但没有指令可以简单地检查寄存器并设置标志。）
3. 如果 ANDing 的结果为 0，则将 %eax（用 %al 表示）的低 8 位设置为 1，否则设置为 0。
4. 将%eax的低8位（用%al表示）复制到%eax，并用零填充%eax的高位，与第一个sn-p一样。李>
5. 将%eax的值复制到%rbp上方4个字节，也就是bar在栈上的位置；也和第一个 sn-p 一样。

这实际上是对 C 代码的忠实翻译。事实上，如果你将演员表添加到(int*) 并编译并运行程序，你会看到它确实输出了1。

Answer 3

在bool 中存储不同于0 或1 的值是C 中未定义的行为。

其实是这样的：

int bar = *foo ? 1 : 0;

用接近这个的东西进行了优化：

int bar = *foo ? *foo : 0;