从 Win32 按钮按下时调用 MessageBox() 返回 0

Question

我刚接触 Win32 GUI 编程一周，所以我有信心/希望这很简单。为了您的考虑，我在下面提供了我的代码示例。

简单地说，我的应用程序会监视另一个应用程序是否打开，以便我可以修改该应用程序的内存。我已将此初始检查放置在我的 UI 循环器的顶部，如下所示，它只会运行一次（在这种情况下，用户只能取消并且应用程序关闭，或者执行通过 if 语句恢复，其中 hWndApp 具有赋值）：

if (!hWndApp) {
    appCheck();
}

如果我启动我的应用程序而另一个应用程序没有运行，appCheck(); 会触发并且由此产生的执行瀑布会相应地起作用：会出现一个消息框（如果用户单击“重试”则会继续出现）直到另一个找到应用程序的窗口。如果用户单击“取消”，则应用程序退出并且一切正常。如果他们在其他应用程序运行时单击“重试”，那么我的应用程序将完成在屏幕上的绘制并且执行正常。

有趣的事情在我下次调用 appCheck(); 时开始（当点击两个按钮之一时发生）如果另一个应用程序已打开，则关闭。

在调试时（通过 Visual Studio 2017），当另一个应用程序打开、然后关闭时，我分配给 MessageBox() 调用的变量等于 0，然后如下：

1. 按下按钮拨打appCheck();
2. 然后在if 语句中调用getProcessHandleAndPID();，因为找不到窗口
3. 然后在while 循环中调用AppCheckMessageBox();，因为找不到窗口
4. 然后调试器指向AppCheckMessageBox(); 内部的第一行，即整个int msgboxID = MessageBox(); 位
5. 按F11（Step Into），由于msgboxID的值为0，所以触发switch语句中的default选项后，没有窗口显示并且应用程序存在（表明MessageBox()调用失败，所以我尝试了在exit(EXIT_FAILURE) 之前调用GetLastError()，但无济于事。

我不确定我的错误在哪里，但我已经找到了许多解决方案，但都没有成功。最后，如果您看到下面的任何变量看起来名称错误或未声明，这完全是由于我修改了这篇文章的代码以试图概括/缩短它。我可能遗漏了一些全局变量声明等。

感谢您提供的任何帮助/指导！我现在对此束手无策……哈哈。

//--------------------------------------------------
// Function to get process handle and PID of app  /
//------------------------------------------------
void getProcessHandleAndPID()
{
    hWndApp = FindWindow(NULL, _T("NameOfApplication"));

    while (!hWndApp) {
        AppCheckMessageBox();
    }
    //Much more code here
}

//---------------------------------
// Function to show message box  /
//-------------------------------
int AppCheckMessageBox()
{
    int msgboxID = MessageBox(
        NULL, //I tried making this hWndApp as well, but no difference
        (LPCWSTR)L"Cancel to exit or start the app and click Retry.",
        (LPCWSTR)L"Application Not Found!",
        MB_ICONSTOP | MB_RETRYCANCEL | MB_SYSTEMMODAL | MB_SETFOREGROUND
    );

    switch (msgboxID)
    {
    case IDCANCEL:
        exit(EXIT_FAILURE);
    case IDRETRY:
        getProcessHandleAndPID();
        break;
    default:
        //GetLastError();
        exit(EXIT_FAILURE);
    }

    return msgboxID;
}

//------------------------------------------------
// Function to check if application is running  /
//----------------------------------------------
void appCheck() {
    if (!FindWindow(NULL, _T("NameOfApplication"))) {
        getProcessHandleAndPID();
    }
}

//--------------------------------------------------
// Function to get process handle and PID of app  /
//------------------------------------------------
LRESULT CALLBACK WndProc(HWND hWnd, UINT message, WPARAM wParam, LPARAM lParam)
{
    if (!hWndApp) {
        appCheck();
    }

    switch (message)
    {
    case WM_PAINT:
        //Code here
        break;

    case WM_CREATE:
        //Code here
        break;

    case WM_COMMAND:
        switch (HIWORD(wParam))
        {
            case BN_CLICKED:
                if (LOWORD(wParam) == BTN_ENABLE) {
                    appCheck();
                //Do stuff with button press
            }
                if (LOWORD(wParam) == BTN_DISABLE) {
                    appCheck();
                //Do stuff with button press
            }
            break;
        }
        break;

    case WM_DESTROY:
        PostQuitMessage(0);
        break;

    default:
        return DefWindowProc(hWnd, message, wParam, lParam);
        break;
    }

    return 0;
}

Answer 1

不是真正的答案，但对于 cmets 来说太长了：

1. 这不是您的真实代码。缺少很多东西，有不匹配的大括号会阻止编译等。如果需要帮助，请始终显示您的真实代码。
2. 正如大卫所说，每次收到消息时都拨打appCheck() 是错误的做法。如果您想在窗口打开后调用一次，请在进入消息循环之前执行此操作。
3. 您的代码是不必要的递归（getProcessHandleAndPID() 调用 AppCheckMessageBox()，后者调用 getProcessHandleAndPID()，后者调用...）并且可能导致堆栈溢出。