c++函数调用约定学习（二）

阳光穿透心脏的1/2处 2022-08-06 17:21 189阅读 0赞

\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*

首先，比较C++ 中的三种函数调用方式。

测试代码：

int \_stdcall Add1(int x1, int x2, int x3)

return x1 + x2 + x3;

int \_\_cdecl Add2(int x1, int x2, int x3)

return x1 + x2 + x3;

int \_\_fastcall Add3(int x1, int x2, int x3)

return x1 + x2 + x3;

void FTest2()

int x\[\] = \{1, 2, 3\};

int ret;

ret = Add1(x\[0\], x\[1\], x\[2\]);

ret = Add2(x\[0\], x\[1\], x\[2\]);

ret = Add3(x\[0\], x\[1\], x\[2\]);

先看看在调用这些函数时调用者作些什么工作

<table style="color:rgb(51,51,51)"> 
 <tbody> 
 <tr> 
 <td> __cdecl </td> 
 <td> _stdcall </td> 
 <td> __fastcall </td> 
 </tr> 
 <tr> 
 <td> ret = Add2(x[0], x[1], x[2]); </td> 
 <td> ret = Add1(x[0], x[1], x[2]); </td> 
 <td> ret = Add3(x[0], x[1], x[2]); </td> 
 </tr> 
 <tr> 
 <td> 0040179F&nbsp;&nbsp;mov&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;eax,dword ptr [ebp-4] 004017A2&nbsp;&nbsp;push&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;eax&nbsp; 004017A3&nbsp;&nbsp;mov&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;ecx,dword ptr [ebp-8] 004017A6&nbsp;&nbsp;push&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;ecx&nbsp; 004017A7&nbsp;&nbsp;mov&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;edx,dword ptr [x] 004017AA&nbsp;&nbsp;push&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;edx&nbsp; 004017AB&nbsp;&nbsp;call&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;Add2 (401750h) 004017B0&nbsp;&nbsp;add&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;esp,0Ch 004017B3&nbsp;&nbsp;mov&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;dword ptr [ret],eax </td> 
 <td> 0040178B&nbsp;&nbsp;mov&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;eax,dword ptr [ebp-4] 0040178E&nbsp;&nbsp;push&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;eax&nbsp; 0040178F&nbsp;&nbsp;mov&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;ecx,dword ptr [ebp-8] 00401792&nbsp;&nbsp;push&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;ecx&nbsp; 00401793&nbsp;&nbsp;mov&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;edx,dword ptr [x] 00401796&nbsp;&nbsp;push&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;edx&nbsp; 00401797&nbsp;&nbsp;call&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;Add1 (401760h) &nbsp; 0040179C&nbsp;&nbsp;mov&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;dword ptr [ret],eax </td> 
 <td> 004017B6&nbsp;&nbsp;mov&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;eax,dword ptr [ebp-4] 004017B9&nbsp;&nbsp;push&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;eax&nbsp; 004017BA&nbsp;&nbsp;mov&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;edx,dword ptr [ebp-8] &nbsp; 004017BD&nbsp;&nbsp;mov&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;ecx,dword ptr [x] &nbsp; 004017C0&nbsp;&nbsp;call&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;Add3 (401730h) &nbsp; 004017C5&nbsp;&nbsp;mov&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;dword ptr [ret],eax </td> 
 </tr> 
 </tbody> 
</table>

从上面可以看出调用时区别：

\_\_cdecl 调用结束后由调用者将参数出栈

\_stdcall 调用结束后不需要调用者将参数出栈

\_\_fastcall 调用结束后不需要调用者将参数出栈，并且调用前最左侧两个参数直接存入寄存器EDX 和ECX 中

相同之处是三者均由右向左压栈

再看看在这些函数自己作些什么工作

<table style="color:rgb(51,51,51)"> 
 <tbody> 
 <tr> 
 <td> __cdecl </td> 
 <td> _stdcall </td> 
 <td> __fastcall </td> 
 </tr> 
 <tr> 
 <td> int __cdecl Add2(int x1, int x2, int x3) { 00401750&nbsp;&nbsp;push&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;ebp&nbsp; 00401751&nbsp;&nbsp;mov&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;ebp,esp &nbsp;&nbsp;&nbsp;&nbsp; &nbsp; &nbsp; return x1 + x2 + x3; 00401753&nbsp;&nbsp;mov&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;eax,dword ptr [x1] 00401756&nbsp;&nbsp;add&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;eax,dword ptr [x2] 00401759&nbsp;&nbsp;add&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;eax,dword ptr [x3] } &nbsp; 0040175C&nbsp;&nbsp;pop&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;ebp&nbsp; 0040175D&nbsp;&nbsp;ret&nbsp;&nbsp; </td> 
 <td> int _stdcall Add1(int x1, int x2, int x3) { 00401760&nbsp;&nbsp;push&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;ebp&nbsp; 00401761&nbsp;&nbsp;mov&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;ebp,esp &nbsp;&nbsp;&nbsp;&nbsp; &nbsp; &nbsp; return x1 + x2 + x3; 00401763&nbsp;&nbsp;mov&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;eax,dword ptr [x1] 00401766&nbsp;&nbsp;add&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;eax,dword ptr [x2] 00401769&nbsp;&nbsp;add&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;eax,dword ptr [x3] } &nbsp; 0040176C&nbsp;&nbsp;pop&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;ebp&nbsp; 0040176D&nbsp;&nbsp;ret&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;0Ch&nbsp;&nbsp; </td> 
 <td> int __fastcall Add3(int x1, int x2, int x3) { 00401730&nbsp;&nbsp;push&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;ebp&nbsp; 00401731&nbsp;&nbsp;mov&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;ebp,esp 00401733&nbsp;&nbsp;sub&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;esp,8 00401736&nbsp;&nbsp;mov&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;dword ptr [ebp-8],edx 00401739&nbsp;&nbsp;mov&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;dword ptr [ebp-4],ecx &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;return x1 + x2 + x3; 0040173C&nbsp;&nbsp;mov&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;eax,dword ptr [x1] 0040173F&nbsp;&nbsp;add&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;eax,dword ptr [x2] 00401742&nbsp;&nbsp;add&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;eax,dword ptr [x3] } 00401745&nbsp;&nbsp;mov&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;esp,ebp 00401747&nbsp;&nbsp;pop&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;ebp&nbsp; 00401748&nbsp;&nbsp;ret&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;4&nbsp;&nbsp; </td> 
 </tr> 
 </tbody> 
</table>

从上面可以看出函数自身的区别：

\_stdcall 函数结束后在返回时ret 命令带个参数，代表参数所占的栈大小，在返回时会把参数弹出栈

\_\_fastcall 函数结束后ret 命令同样带个参数，并且它在函数入口把寄存器中的参数再放入栈中，fast 这个词不名副其实啊！

\----------------------------------------------------------------------------------------------

下面，以 \_\_cdecl 调用为例，看看函数调用前后内存栈和主要寄存器的变化

测试代码：

int \_\_cdecl Add2(int x1, int x2, int x3)

int tmp\[10\];

return x1 + x2 + x3;

ret = Add2(x\[0\], x\[1\], x\[2\]);

1. 在ret = Add2(x\[0\], x\[1\], x\[2\]); 执行前

2. 当执行完下面红色语句后，进入Add2 之前

ret = Add2(x\[0\], x\[1\], x\[2\]);

004017AF mov eax,dword ptr \[ebp-4\]

004017B2 push eax

004017B3 mov ecx,dword ptr \[ebp-8\]

004017B6 push ecx

004017B7 mov edx,dword ptr \[x\]

004017BA push edx

004017BB call Add2 (401750h)

004017C0 add esp,0Ch

004017C3 mov dword ptr \[ret\],eax

可见是参数不断压入栈中，最后压入要返回时的代码地址（\[EIP\] 的值）

3. 进入函数Add2 正式执行用户代码前，执行红色代码后

int \_\_cdecl Add2(int x1, int x2, int x3)

00401750 push ebp

00401751 mov ebp,esp

00401753 sub esp,28h

int tmp\[10\];

return x1 + x2 + x3;

00401756 mov eax,dword ptr \[x1\]

00401759 add eax,dword ptr \[x2\]

0040175C add eax,dword ptr \[x3\]

0040175F mov esp,ebp

00401761 pop ebp

00401762 ret

<table style="color:rgb(51,51,51)"> 
 <tbody> 
 <tr> 
 <td> 内存地址 </td> 
 <td> 内存中存储的值 </td> 
 <td> 寄存器位置 </td> 
 </tr> 
 <tr> 
 <td> 0x74H </td> 
 <td> … </td> 
 <td> &nbsp; </td> 
 </tr> 
 <tr> 
 <td> … 0x68H </td> 
 <td> X[3] </td> 
 <td> &nbsp; </td> 
 </tr> 
 <tr> 
 <td> 0x64H </td> 
 <td> ret </td> 
 <td> &nbsp; </td> 
 </tr> 
 <tr> 
 <td> 0x60H </td> 
 <td> X3 (Add2()) </td> 
 <td> &nbsp; </td> 
 </tr> 
 <tr> 
 <td> 0x5BH </td> 
 <td> X2 </td> 
 <td> &nbsp; </td> 
 </tr> 
 <tr> 
 <td> 0x58H </td> 
 <td> X1 </td> 
 <td> &nbsp; </td> 
 </tr> 
 <tr> 
 <td> 0x54H </td> 
 <td> [EIP] </td> 
 <td> &nbsp; </td> 
 </tr> 
 <tr> 
 <td> 0x50H </td> 
 <td> [EBP] </td> 
 <td> EBP </td> 
 </tr> 
 <tr> 
 <td> … 0x28H </td> 
 <td> Tmp[10] </td> 
 <td> &nbsp; ESP </td> 
 </tr> 
 </tbody> 
</table>

这里主要工作是保存EBP, 并设置到栈顶，这样可以通过EBP 访问该函数中的局部变量。另外，由于函数内声明了局部变量 int tmp\[10\] ，占用大小 10 \* 4 = 28H 个字节，所以把ESP 下移。（栈总是向下扩展）

4. 然后是执行函数体代码，返回值放入EAX( 或AX,AL) 中。最后返回，返回前重设ESP,EBP 的值，通过栈中的\[EIP\] 的值返回到调用函数之前的代码处。

最终：

<table style="color:rgb(51,51,51)"> 
 <tbody> 
 <tr> 
 <td> 内存地址 </td> 
 <td> 内存中存储的值 </td> 
 <td> 寄存器位置 </td> 
 </tr> 
 <tr> 
 <td> 0x74H </td> 
 <td> … </td> 
 <td> EBP </td> 
 </tr> 
 <tr> 
 <td> … 0x68H </td> 
 <td> X[3] </td> 
 <td> &nbsp; </td> 
 </tr> 
 <tr> 
 <td> 0x64H </td> 
 <td> ret </td> 
 <td> ESP </td> 
 </tr> 
 <tr> 
 <td> 0x60H </td> 
 <td> X3 (&nbsp;没用了) </td> 
 <td> &nbsp; </td> 
 </tr> 
 <tr> 
 <td> 0x5BH </td> 
 <td> X2 (&nbsp;没用了) </td> 
 <td> &nbsp; </td> 
 </tr> 
 <tr> 
 <td> 0x58H </td> 
 <td> X1 (&nbsp;没用了) </td> 
 <td> &nbsp; </td> 
 </tr> 
 <tr> 
 <td> 0x54H </td> 
 <td> [EIP] (&nbsp;没用了) </td> 
 <td> &nbsp; </td> 
 </tr> 
 <tr> 
 <td> 0x50H </td> 
 <td> [EBP] (&nbsp;没用了) </td> 
 <td> &nbsp; </td> 
 </tr> 
 <tr> 
 <td> … 0x28H </td> 
 <td> Tmp[10] (&nbsp;没用了) </td> 
 <td> &nbsp; &nbsp; </td> 
 </tr> 
 </tbody> 
</table>