将值复制到从 C++ 调用的汇编函数中的指针地址（nasm）

Question

我正在尝试学习 x86-64 汇编，我发现这本书“现代 X86 汇编语言编程：涵盖 x86 64 位、AVX、AVX2 和 AVX-512”，但它使用 MASM 和 Visual C++ 和我使用 Linux。所以我试图将其中的一些程序转换为 NASM 语法，但我遇到了将计算结果存储在传递给函数的指针中的问题。 C++代码是

#include <iostream>
#include <iomanip>
#include <bitset>
using namespace std;
extern "C" int IntegerShift_(unsigned int a, unsigned int count, unsigned int* a_shl, unsigned int* a_shr);
static void PrintResult(const char* s, int rc, unsigned int a, unsigned int count, unsigned int a_shl, unsigned int a_shr)
{
        bitset<32> a_bs(a);
        bitset<32> a_shr_bs(a_shl);
        bitset<32> a_shl_bs(a_shr);
        const int w = 10;
        const char nl = '\n';

        cout << s << nl;
        cout << "count = " << setw(w) << count << nl;
        cout << "a = " << setw(w) << a << " (0b" << a_bs << ")" << nl;

        if (rc == 0)
                cout << "Invalid shift count" << nl;
        else
        {
                cout << "shl = " << setw(w) << a_shl << " (0b" << a_shl_bs << ")" << nl;
                cout << "shr = " << setw(w) << a_shr << " (0b" << a_shr_bs << ")" << nl;
        }
        cout << nl;
}

int main()
{
        int rc;
        unsigned int a, count, a_shl, a_shr;
        a = 3119;
        count = 6;
        rc = IntegerShift_(a, count, &a_shl, &a_shr);
        PrintResult("Test 1", rc, a, count, a_shl, a_shr);

    return 0;
}

此代码测试用汇编编写的函数 IntegerShift_。 （main 函数中还有一些测试我没有在这里包含，因为它们与我包含的测试基本相同）。 书中原汇编代码为MASM代码：

    
.code
IntegerShift_ proc
xor eax,eax 
cmp edx,31            
ja InvalidCount            
xchg ecx,edx    
mov eax,edx  
shl eax,cl    
mov [r8],eax  
shr edx,cl   
mov [r9],edx    
mov eax,1
InvalidCount:    
ret    
IntegerShift_ endp
end

将其转换为 NASM 代码的明显方法（至少据我所知）如下：

section .text
global IntegerShift_
IntegerShift_:
xor eax,eax
cmp esi,31           
ja InvalidCount            
xchg ecx,esi    
mov eax,esi  
shl eax,cl    
mov [rdx],eax  
shr esi,cl   
mov [rsi],esi    
mov eax,1
InvalidCount:    
ret 

然而，组装、编译和运行它：

nasm -f elf64 [asm filename]
g++ -Wall -no-pie [object file filename] [cpp filename] -o prog
./prog

导致分段错误。我尝试了所有我能想到的方法来解决这个问题，并为此花费了几个多小时，但我无法让它发挥作用。我几乎可以肯定问题是我尝试将结果存储在 a_shl 和 a_shr 指针的地址中的方式，但我不明白我做错了什么，我真的很感激一些帮助。 提前致谢！

Answer 1

首先，Windows 和 Linux 的调用约定不同。

https://en.wikipedia.org/wiki/X86_calling_conventions

• 您似乎没有完全更改此设置..

其次，虽然大多数情况下您可以使用 32 位寄存器，但您必须将地址视为完整的 64 位值。

最后，您还要修改 esi 然后使用 rsi - 它们是重叠的寄存器 - 这就是导致您的分段错误的原因。

随着这些变化：

;extern "C" int IntegerShift_(unsigned int a, unsigned int count, unsigned int* a_shl, unsigned int* a_shr);
; RDI, RSI, RDX, RCX,

section .text
global IntegerShift_
IntegerShift_:
xor eax,eax
cmp esi,31
ja InvalidCount
xchg rcx,rsi    ; Need full 64-bit exchange
mov eax,edi     ; (r)di is the 'a' value
shl eax,cl
mov [rdx],eax
shr edi,cl      
mov [rsi],edi
mov eax,1
InvalidCount:
ret

Answer 2

您可以单步执行代码吗？在这种情况下，您应该能够找到它的段错误。

另一种方法是用 C 编写代码并查看反汇编列表。 如果代码在 C 中工作，您可以使用汇编代码并根据自己的喜好对其进行优化。 你试过吗？

另外，你看过这篇文章吗？ http://left404.com/2011/01/04/converting-x86-assembly-from-masm-to-nasm-3