CString 赋值正在改变 GetLastError() 的值

Question

我正在使用 MFC CString 对象作为字符串。我遇到了一个问题，即设置 CString 会导致 GetLastError() 被意外设置为某个值。

以下是问题的简化版本：

CString csTest;
DWORD dwLastError = 0;

SetLastError(0);
csTest = _T("test");
dwLastError = GetLastError();  // dwLastError is still 0, as expected
csTest = "another test";  // Not using TCHAR
dwLastError = GetLastError(); // dwLastError now set to 122, "The data area passed to a system call is too small."

我可以使用 Visual Studio 2015 重现此问题，创建一个全新的 MFC 项目（基于对话框），并将此代码添加到它创建的对话框的 OnInitDialog() 函数中。

我知道第一个字符串是TCHAR，在此项目中默认为WCHAR。因此，char* 的 CString 赋值运算符似乎导致了问题。

有没有办法解决这个问题？一种获取编译器警告以通知我char* 分配而不是WCHAR* 的方法？我认为它曾经在 Visual Studio 的某些早期版本中为此提供警告/错误，但现在似乎没有，所以也许我记错了。

Answer 1

您可以通过将宏 _CSTRING_DISABLE_NARROW_WIDE_CONVERSION 定义为 documented 来禁用隐式窄幅转换。

但这只是帮助您解决真正的问题：您只是调用GetLastError 太晚了。它的返回值只有在您调用另一个调用之前才有效。只是不要那样做。

现在，即使您成功阻止了任何转换，CString 实现仍然必须分配内存。当你运气不好时，operator new（调用malloc）将不得不使用操作系统的内存管理功能。

解决方案很简单：仅在文档告诉您它将返回有效值时调用 GetLastError，并且不要散布对 any 的 any 调用功能。

Answer 2

将 ANSI 分配给 CStringW 时，会调用 WinAPI MultiByteToWideChar。它有点类似于以下内容：

csTest = "a"; // <- step in to this line with debugger
->
wchar_t *buf = new wchar_t[10];

MultiByteToWideChar(CP_ACP, 0, "a", -1, buf, 1); 
//Error 122, ERROR_INSUFFICIENT_BUFFER
//MultiByteToWideChar is expecting 2, not 1, for len

DWORD err = GetLastError();
delete[]buf;

出现问题是因为CString 使用了"a" 的长度，并且没有考虑空字符。 MultiByteToWideChar 设置错误。

CString 稍后修复了该问题，但GetLastError 仍然设置。

只需使用csTest = L"a"; 即可避免转换的需要。或csTest = CA2W("a");

否则GetLastError 不应该以这种方式使用。在 WinAPI 函数失败后立即使用GetLastError。

测试：

#include <Windows.h>
#include <AtlStr.h>

int main()
{
    DWORD err;
    CStringW str;

    wchar_t *buf = new wchar_t[10];
    int len = MultiByteToWideChar(CP_ACP, 0, "a", 1, NULL, 0);
    MultiByteToWideChar(CP_ACP, 0, "a", -1, buf, len);
    err = GetLastError();
    printf("MultiByteToWideChar error %d\n", err);
    delete[]buf;

    //Below is wrong usage of GetLastError(), it's only for this discussion...
    SetLastError(0);
    str = "a";
    err = GetLastError();
    printf("assignment operator error %d\n", err);

    SetLastError(0);
    str = CA2W("12345");
    err = GetLastError();
    printf("CA2W error %d\n", err); 

    return 0;
}

输出：

MultiByteToWideChar error 122
assignment operator error 122
CA2W error 0