NASM malloc 返回 NULL

Question

在我尝试学习 NASM 的过程中，我尝试创建一个基本程序来测试 malloc 的功能。我已经贴在下面了：

bits 64

extern malloc

section .data

ARRAY_SIZE:             equ 27

array:                  dq 1

error_message:          db "Malloc returned NULL!", 10
error_message_length:   equ $ - error_message

section .text
global _start

_start:
    ; try to allocate an array of bytes in the heap memory using malloc
    push dword ARRAY_SIZE
    call malloc
    ;; if malloc returned NULL, throw an error
    cmp rax, 0
    je err_out
    mov [array], eax                ; save a pointer to the allocated memory in array

    ; fill the array with numbers equal to the indices at that location
    fill_for:
    xor edx, edx                    ; use edx for the for loop index
    .for_start:
    cmp edx, ARRAY_SIZE             ; break if edx >= BUFFER_SIZE
    jg .for_end
        mov [array + edx], edx      ; array[i] = i;
    inc edx
    .for_end:

    ; print the numbers in array
    print_for:
    xor edx, edx                    ; use edx for the for loop index
    .for_start:
    cmp edx, ARRAY_SIZE             ; break if edx >= BUFFER_SIZE
    jg .for_end
        mov eax, [array + edx]      ; print array[i]
        call print_small_number
    .for_end:

print_small_number:
; allocate stack space for the two-digit number string (two digit chars + '\0' = 3b)
;; save the old rbp
mov [rbp], rsp
sub rsp, 8
mov rbp, rsp
;; allocate space for the number string
sub rsp, 3
;; save rdx for the main function
sub rsp, 8
mov [rbp + 3], rdx

    ; turn the (assumed two-digit in base 10) number into a string in number_string
    ;; initialize the number to 0x30, 0x30, 0 (0x30 is the offset to turn a number into a base-10 digit; 10 = '\n')
    mov byte [rbp], 0x30
    mov byte [rbp + 1], 0x30
    mov byte [rbp + 2], 10
                                    ; the number to print is already in eax
    mov bl, 10                      ; divide the message length string by 10 to separate the 10s and 1s digits
    div bl                          ;; the quotient is the 10s digits and the remainder is the 1s
    add [rbp], al                   ; move the resulting char into the first slot in number_string
    add [rbp + 1], ah               ; move the resulting 1s digit char into the second slot in number_string

    ; print the message length string
    mov eax, 4
    mov ebx, 1
    mov rcx, rbp                    ; the string starts at rbp
    mov edx, 3                      ; two digits + \0 = 3 chars = 3b
    int 0x80

; return
;; restore the old rdx for the main function
mov rdx, [rbp + 3]
add rsp, 8
;; deallocate the number string
add rsp, 3
;; restore the old rbp
add rsp, 8
mov rbp, [rsp]
ret

err_out:
    ; print error_message
    mov eax, 4
    mov ebx, 1
    mov ecx, error_message
    mov edx, error_message_length
    int 0x80

    ; end the program
    mov ebx, 0
    mov eax, 1
    int 0x80

但是，当我从这个基本的 NASM 程序调用 malloc 时，它返回 NULL (0)，显示为打印出以下消息：

Malloc returned NULL!

我在一台 6GB RAM 的笔记本电脑上运行这个程序，几乎没有其他应用程序打开，我只尝试分配 27 个字节，所以内存不足似乎不太可能。

我知道如果给定的 size 参数为负数，它可能会返回 NULL，但正如您在代码中看到的那样，情况并非如此。

有人有什么建议吗？我不明白为什么这个 malloc 调用会返回 NULL。

编辑：

这个示例是在 64 位 Linux Mint 17 Qiana 中组装和运行的，使用以下命令（自 BASH 脚本起）：

nasm -f elf64 "$1.asm" -l "$1.lst" &&
ld -s -o "$1" "$1.o" -lc &&
./"$1"

Answer 1

malloc() 的参数应该进入rdi，而不是被压入堆栈。它可能失败了，因为您传递了 0 或某个极高的数字。

还有：

mov [array], eax

应该是：

mov array, rax

因为malloc() 非常有能力返回一个不适合四个字节的地址，并且因为array 在那个时候不包含有效的内存地址，所以你不应该间接通过它。