mmap 不返回错误也不返回有效指针

Question

我一直在尝试使用 mmap 分配内存，但到目前为止我不知道如何正确执行。下面你可以看到我写的一个函数，它是从C调用的。它产生的结果总是197，和系统调用号一样。

C 声明：

extern "C" void * ll_alloc ();

程序集定义：

_ll_alloc:
  sub rsp, 8
  mov r9, 0
  mov rdi, 0
  mov rax, 197         
  mov rsi, 4096          
  mov r8, -1            
  mov rdx, 0x02 | 0x01
  mov rcx, 0x1000 | 0x0001
  syscall
  add rsp, 8
  ret

我直接从 C 调用 mmap，一切都按预期工作，我调用了：

void * mem = mmap(NULL, 4096, PROT_WRITE | PROT_READ, MAP_ANON | MAP_SHARED, -1, 0);

Answer 1

mov rcx, 0x1000 | 0x0001 不可能是正确的：syscall instruction 本身会破坏 RCX（使用保存的 RIP）。

在 x86-64 Linux 上，系统调用的调用约定使用 R10 作为第四个参数，而不是函数调用约定 arg 顺序中的 RCX。 (What are the calling conventions for UNIX & Linux system calls on i386 and x86-64)

我认为 OS X 会做同样的事情（所以mov r10d, 0x1000 | 0x1），但内核实际上不可能读取syscall 之前用户空间RCX 中的内容，所以绝对不是那个寄存器。参见64-bit syscall documentation for MacOS assembly上的cmets

---

此外，x86-64 MacOS 使用的电话号码与 x86-64 Linux 不同。尽管根据https://sigsegv.pl/osx-bsd-syscalls/，197 是正确的，这似乎确实是关于 x86-64。 （而且 197 不是 Linux 系统调用号）

我想我记得需要设置更高位的实际 EAX 值，例如 0x2000xyz；也许这是您需要添加的内容。 更新：是的，macOS 64-bit System Call Table 解释说在电话号码中添加0x2000000 是正确的。

---

一般要调试这种东西

当 syscall 指令从已知良好的库实现中运行时，单步调用 C 库 mmap 调用以查看寄存器值。

还可以在您的手写 asm 程序中使用 dtruss (MacOS) 或 strace 以查看内核认为它实际上在做什么。