P/Invoke Marshalling an Out void*

Question

我有以下 C 函数定义：

EXPORT CreateWindow(const wchar_t* applicationTitle, void* windowHandle) {
    // Some preconditions & other stuff here

    windowHandle = RENDER_COMPONENT.Window.CreateNew(cstr_to_wstring(applicationTitle));
    return true;
}

该函数通过 P/Invoke 调用。 P/Invoke函数定义如下：

[DllImport(InteropUtils.RUNTIME_DLL, EntryPoint = "CreateWindow", CallingConvention = CallingConvention.Cdecl)]
internal static extern bool _CreateWindow([MarshalAs(UnmanagedType.LPWStr)] string applicationTitle, [Out] out IntPtr windowHandle);

这个函数的用法是：

IntPtr windowHandle;
bool windowCreationSuccess = _CreateWindow(Engine.ApplicationTitle, out windowHandle);

---

我的问题是 windowHandle 在 C# 代码中始终等于 IntPtr.Zero，我猜这意味着它不会以某种方式从 C++ 到 C# 端“复制”。它是在 C 函数中设置的（我用调试器查看过）——它实际上是一个 HWND。

P/Invoke 总是让我感到困惑 - 我确定我在复制结构而不是对它的引用或其他什么方面做错了，但我不太清楚什么/在哪里。

Answer 1

C 仅使用按值传递。这意味着调用者永远无法看到您对windowHandle 的分配。对于任何呼叫者都是如此，而不仅仅是托管的 pinvoke。

您需要更改 C 函数以接收窗口句柄变量的地址。像这样：

EXPORT CreateWindow(const wchar_t* applicationTitle, HWND* windowHandle) {
    // Some preconditions & other stuff here
    *windowHandle = RENDER_COMPONENT.Window.CreateNew(cstr_to_wstring(applicationTitle));
    return true;
}

然后问题中的 C# 代码匹配。

但是你的 C 代码很奇怪。为什么无条件返回true？如果它总是正确的，为什么还要返回一个布尔值。坦率地说，返回 HWND 会更干净。