【问题标题】:Understanding the C function call prolog with __cdecl on windows用 __cdecl 在 windows 上理解 C 函数调用序言
【发布时间】:2011-01-05 19:58:05
【问题描述】:

在调试模式下用 MSVC2008 编译这个简单的函数:

int __cdecl sum(int a, int b)
{
    return a + b;
}

我得到以下反汇编列表:

int __cdecl sum(int a, int b)
{
004113B0  push        ebp  
004113B1  mov         ebp,esp 
004113B3  sub         esp,0C0h 
004113B9  push        ebx  
004113BA  push        esi  
004113BB  push        edi  
004113BC  lea         edi,[ebp-0C0h] 
004113C2  mov         ecx,30h 
004113C7  mov         eax,0CCCCCCCCh 
004113CC  rep stos    dword ptr es:[edi] 
    return a + b;
004113CE  mov         eax,dword ptr [a] 
004113D1  add         eax,dword ptr [b] 
}
004113D4  pop         edi  
004113D5  pop         esi  
004113D6  pop         ebx  
004113D7  mov         esp,ebp 
004113D9  pop         ebp  
004113DA  ret

prolog 的某些部分我不明白:

004113BC  lea         edi,[ebp-0C0h] 
004113C2  mov         ecx,30h 
004113C7  mov         eax,0CCCCCCCCh 
004113CC  rep stos    dword ptr es:[edi] 

为什么需要这样做?


编辑:

按照建议删除/RTC 编译器选项后,大部分代码确实消失了。剩下的是:

int __cdecl sum(int a, int b)
{
00411270  push        ebp  
00411271  mov         ebp,esp 
00411273  sub         esp,40h 
00411276  push        ebx  
00411277  push        esi  
00411278  push        edi  
    return a + b;
00411279  mov         eax,dword ptr [a] 
0041127C  add         eax,dword ptr [b] 
}

现在,为什么需要:sub esp, 40h?就好像为局部变量分配了位置,尽管没有。为什么编译器会这样做?是否涉及其他标志?

【问题讨论】:

    标签: c windows assembly


    【解决方案1】:

    此代码是由于/RTC compile option 而发出的。它将函数中的所有局部变量初始化为很可能产生访问冲突或导致异常输出值的位模式。这可以帮助您找出何时忘记初始化变量。


    您看到分配的堆栈帧中的额外空间用于支持“编辑 + 继续”功能。当您在调试时编辑函数并添加更多局部变量时,将使用此空间。将 /ZI 选项更改为 /Zi 以禁用它。

    【讨论】:

    • 这听起来像是一个解释——但函数没有局部变量!
    【解决方案2】:

    并且在任何缓冲区溢出的情况下(如果您要覆盖局部变量),您最终将进入“int 3”操作码的字段:

    int 3 ; 0xCC
    int 3 ; 0xCC
    int 3 ; 0xCC
    int 3 ; 0xCC
    int 3 ; 0xCC
    int 3 ; 0xCC
    ...
    

    可以被调试器捕获,因此您可以修复您的代码

    【讨论】:

    • INT 3 是调试器陷阱,但它必须由CPU执行才能真正进入它,不是吗?如果我只是践踏它而不执行它并不重要,它是 INT 3 - 还是我误解了这一点?
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2021-11-22
    • 2011-04-16
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多