MATLAB在DLL中调用函数时的堆栈限制是多少

Question

我想弄清楚，当 MATLAB 调用 DLL 中的函数时，堆栈大小限制是多少。
有没有办法配置限制？

我正在使用loadlibrary 和calllib 函数来调用用C（在动态链接库中）实现的函数。

我创建了一个测试来计算堆栈限制。

我正在使用 MATLAB 2016a（64 位）和 Visual Studio 2010 来构建 DLL。

这是我的 MATLAB 源代码：

loadlibrary('MyDll','MyDll.h')

size_in_bytes = 1000000;

res = calllib('MyDll', 'Test', size_in_bytes);

if (res == -1)
    disp(['Stack Overflow... (size = ', num2str(size_in_bytes), ')']);
else
    disp(['Successful stack allocation... (size = ', num2str(size_in_bytes), ')']);
end

unloadlibrary MyDll

这是我的 C 源代码：

MyDll.h

// MyDll.h : DLL interface.

#ifndef MY_DLL_H
#define MY_DLL_H

#ifdef MY_DLL_EXPORTS
    #define MY_DLL_API   __declspec(dllexport)
#else
    #define MY_DLL_API   __declspec(dllimport)
#endif

extern MY_DLL_API int Test(int size);

#endif

MyDll.c

// MyDll.c

#include "MyDll.h"

#include <windows.h>
#include <stdio.h>
#include <string.h>
#include <malloc.h>


//Allocate <size> bytes in stack using _alloca(size).
//Return 0 if OK.
//Return (-1) in case of stack overflow.
int Test(int size)
{
    //Not allocated on the stack...
    static wchar_t errorMsg[100];
    static wchar_t okMsg[100];

    int errcode = 0;
    void *pData = NULL;

    //Prepare messages from advance.
    swprintf_s(errorMsg, 100, L"Stack Overflow (size = %d)", size);
    swprintf_s(okMsg, 100, L"Successful stack allocation (size = %d)", size);

    __try 
    {
        pData = _alloca(size);
    }
    // If an exception occurred with the _alloca function
    __except (GetExceptionCode() == STATUS_STACK_OVERFLOW)
    {
        MessageBox(NULL, errorMsg, TEXT("Error"), MB_OK | MB_ICONERROR);

        // If the stack overflows, use this function to restore.
        errcode = _resetstkoflw();
        if (errcode)
        {
            MessageBox(NULL, TEXT("Could not reset the stack!"), TEXT("Error"), MB_OK | MB_ICONERROR);
            _exit(1);
        }

        pData = NULL;
    };

    if (pData != NULL)
    {
        //Fill allocated buffer with zeros
        memset(pData, 0, size);

        MessageBox(NULL, okMsg, TEXT("OK"), MB_OK);

        return 0;
    }

    return -1;
}

__try 和 __except 块取自 Microsoft 示例：
https://msdn.microsoft.com/en-us/library/wb1s57t5.aspx

DLL 编译器标志：
/Zi /nologo /W4 /WX- /Od /D "WIN32" /D "_DEBUG" /D "_CONSOLE" /D "_USRDLL" /D "MY_DLL_EXPORTS" /D "_WINDLL" /D "_UNICODE" /D "UNICODE" /Gm /EHsc /RTC1 /MTd /GS /fp:precise /Zc:wchar_t /Zc:forScope /Fp"x64\Debug\MyDll.pch" /Fa"x64\Debug\" /Fo"x64\Debug\" /Fd"x64\Debug\vc100.pdb" /Gd /errorReport:queue

DLL 链接器标志：
/OUT:"x64\Debug\MyDll.dll" /INCREMENTAL:NO /NOLOGO /DLL "kernel32.lib" "user32.lib" "gdi32.lib" "winspool.lib" "comdlg32.lib" "advapi32.lib" "shell32.lib" "ole32.lib" "oleaut32.lib" "uuid.lib" "odbc32.lib" "odbccp32.lib" /MANIFEST /ManifestFile:"x64\Debug\MyDll.dll.intermediate.manifest" /ALLOWISOLATION /MANIFESTUAC:"level='asInvoker' uiAccess='false'" /DEBUG /PDB:"c:\Tmp\MyDll\x64\Debug\MyDll.pdb" /SUBSYSTEM:CONSOLE /PGD:"c:\Tmp\MyDll\x64\Debug\MyDll.pgd" /TLBID:1 /DYNAMICBASE /NXCOMPAT /MACHINE:X64 /ERRORREPORT:QUEUE

---

我使用size_in_bytes的不同值执行了MATLAB代码：
size_in_bytes = 1000000：通过！
size_in_bytes = 10000000：通过！
size_in_bytes = 50000000：通过！
size_in_bytes = 60000000：通过！
size_in_bytes = 70000000：堆栈溢出！

看起来我的系统中的限制大约是 64MByte（但我不知道这个数字是否适用于所有系统）。

---

我尝试使用editbin 工具修改Matlab.exe 的堆栈大小。
我尝试了以下命令（例如）：
editbin /STACK:250000000 "c:\Program Files\MATLAB\R2016a\bin\matlab.exe"。

此选项以字节为单位设置堆栈的大小，并以十进制或 C 语言表示法接受参数。 /STACK 选项仅适用于可执行文件。

好像没什么影响……

Answer 1

似乎在 Windows 上，堆栈的大小是在编译时设置的。所以你可以使用选项/F 或二进制EDITBIN。

例如，您可以编辑以下文件：

EDITBIN /STACK:134217728 "C:\Program Files\MATLAB\R2016a\bin\win64\MATLAB.exe"

这会将堆栈大小设置为 128 MB（128 x 1024 x 1024 字节 = 134217728 字节）。

注意：请注意，编辑 C:\Program Files\MATLAB\R2016a\bin\matlab.exe 将无效。