DllImport 返回空终止字符串 AccessViolationException

Question

我正在尝试与实现多个函数的 Dll 进行交互，其中一个函数接受一个以空字符结尾的字符串和一个 int，并返回一个以空字符结尾的字符串。我试图与这样的方法进行交互：

[DllImport(dll_loc)]
[return : MarshalAs(UnmanagedType.LPStr)]
public static extern StringBuilder GetErrorMessage([MarshalAs(UnmanagedType.LPStr)]
                                                       StringBuilder message, 
                                                       int error_code);

然后我尝试像这样调用该方法：

StringBuilder message = new StringBuilder(1000);
StringBuilder out2 = new StringBuilder(1000);
out2 = GetErrorMessage(message, res0);

但是，当我尝试这样做时，会抛出一个 AccessViolationException，告诉我我正在尝试访问受保护的内存。

我成功地声明了一种不同的方法：

[DllImport(dll_loc)]
public static extern int GetVersion([MarshalAs(UnmanagedType.LPStr)]
                                        StringBuilder version);

并以相同的方式调用它，但此方法不适用于当前的函数调用。

我也尝试返回一个 IntPtr，因为从技术上讲，该方法返回一个指向字符串缓冲区第一个字符的指针，但无济于事。

有没有人知道这里可能出了什么问题？这两种方法之间可能有什么不同导致 dll 尝试访问它不应该访问的内存。或者，您建议如何调试此问题？

Answer 1

将所有StringBuilder 替换为System.IntPtr，仅分配 message var 为System.Runtime.InteropServices.Marshal.AllocHGlobal

然后将message 或out2 转换为带有PtrToStringAuto 的字符串

然后拨打System.Runtime.InteropServices.Marshal.FreeHGlobal

在与char* 或wchar_t* 打交道时，我总是以这种方式工作。

Answer 2

返回字符串的 C 函数是内存管理问题。 C 字符串需要一个数组，并且该数组的内存需要在字符串被消耗后释放。这使得这些函数很难在 C 程序中使用，几乎不可能与 pinvoke 一起使用。这也是一个经典的C bug，返回一个指向栈上字符串的指针。

pinvoke marshaller 将尝试释放返回的字符串，以避免内存泄漏。它将使用 CoTaskMemFree()。这通常不会有好的结果，C 代码实际上很少使用 CoTaskMemAlloc 为数组分配内存。在 XP 上，这将导致无声的内存泄漏。 Vista 和 Win7 有更严格的堆管理器，如果附加了非托管调试器，它们将调用调试中断。然后用 AccessViolation 轰炸程序。

您可以通过将返回类型声明为 IntPtr 并自己编组字符串来避免自动编组行为。通常使用 Marshal.PtrToStringAnsi()。但是你仍然面临着释放内存的任务。你不能，你没有 CRT 堆的句柄，你不能调用 free()。

返回字符串的 C 函数应使用传递字符串缓冲区的参数声明。还有一个参数说明缓冲区有多大。像这样：

 int GetErrorMessage(int errorCode, char* buffer, size_t bufferSize);

现在很简单，调用者可以为缓冲区分配内存并释放它。 C 函数只是将字符串复制到缓冲区中。返回值可用于告知复制了多少字符，或指示需要更大的缓冲区。不要吝啬bufferSize 参数，缓冲区溢出是致命的，并会调用可怕的 FatalExecutionEngineError 异常，该异常与 AV 一样不可调试，因为直到很久以后才检测到 GC 堆损坏。您在 C# 端使用 StringBuilder，并使用非零容量适当地初始化。 bufferSize 的值。