如果我在调用 DLL 中的函数时没有传递足够的参数，会发生什么？

Question

在一个dll项目中，函数是这样的：

extern "C" __declspec(dllexport) void foo(const wchar_t* a, const wchar_t* b, const wchar_t* c)

在另一个项目中，我将使用foo 函数，但我在头文件中声明foo 函数

extern "C" __declspec(dllimport) void foo(const wchar_t* a, const wchar_t* b)

我只用两个参数调用它。

结果是成功，我认为这与__cdecl 通话有关，但我想知道这是如何以及为什么会这样。

Answer 1

32 位

默认调用约定是__cdecl，这意味着调用者将参数从右到左压入堆栈，然后在调用返回后清理堆栈。

所以在你的情况下，调用者：

1. 推动 b
2. 推一个
3. 推送返回地址
4. 调用函数。

此时堆栈看起来像这样（例如假设 4 字节指针，并记住堆栈指针在您推送时向后移动）：

+-----+ <--- this is where esp is after pushing stuff
| ret | [esp]
+-----+
|  a  | [esp+4]
+-----+
|  b  | [esp+8]
+-----+ <--- this is where esp was before we started
| ??? | [esp+12 and beyond]
+-----+

好的，太好了。现在问题发生在被调用方。被调用者期望参数位于堆栈上的某些位置，因此：

• a 假定在 [esp+4]
• b 假定在 [esp+8]
• c 假定在 [esp+12]

这就是问题所在：我们不知道[esp+12] 是什么。因此被调用者将看到a 和b 的正确值，但会将[esp+12] 中发生的任何未知垃圾解释为c。

此时它几乎是未定义的，并且取决于您的函数对c 的实际作用。

在这一切结束并且被调用者返回之后，假设你的程序没有崩溃，调用者将恢复esp，并且堆栈指针将回到它应该在的位置。所以从调用者的 POV 来看，一切可能都很好，堆栈指针最终回到了它应该在的位置，但是被调用者看到 c 的垃圾。

---

64 位

64 位机器上的机制不同，但最终结果大致相同。 Microsoft 在 64 位计算机上使用 the following calling convention不管 __cdecl 或其他任何东西（您指定的任何约定都将被忽略，所有约定都被同等对待）：

• 前四个整数或指针参数按从左到右的顺序放置在寄存器 rcx、rdx、r8 和 r9 中。
• 前四个浮点参数按从左到右的顺序放置在寄存器 xmm0、xmm1、xmm2 和 xmm3 中。
• 剩余的所有内容都被推入堆栈，从右到左。
• 调用者负责恢复esp，并在调用后恢复all volatile registers的值。

所以在你的情况下，调用者：

1. 将a 放入rcx。
2. 将b 放入rdx。
3. 在堆栈上分配额外的 32 字节“影子空间”（请参阅​​那篇 MS 文章）。
4. 推送返回地址。
5. 调用函数。

但被调用者期待：

• a 假定在 rcx 中（检查！）
• b 假定在 rdx 中（检查！）
• c 假定在 r8 中（问题）

因此，与 32 位情况一样，被调用者将 r8 中发生的任何内容解释为 c，随后出现潜在的问题，最终效果取决于被调用者对 c 所做的事情。返回时，假设程序没有崩溃，调用者restores all volatile registers（rcx和rdx，一般还包括r8和朋友）并恢复esp。