难以从 C# 调用非托管 dll

Question

我睡眼惺忪地想弄清楚为什么我不能从我的 C# 应用程序中调用旧 C++ .dll 中的外部方法。

这是函数头：

int __export FAR PASCAL SimplePGPEncryptFile(
                                      HWND hWnd1,
                                      LPSTR InputFileName,
                                      LPSTR OutputFileName,
                                      BOOL SignIt,
                                      BOOL Wipe,
                                      BOOL Armor,
                                      BOOL TextMode,
                                      BOOL IDEAOnly,
                                      BOOL UseUntrustedKeys,
                                      LPSTR RecipientList,
                                      LPSTR SignerKeyID,
                                      int SignerBufferLen,
                                      LPSTR SignerPassphrase,
                                      int SignerPwdBufferLen,
                                      LPSTR IDEAPassphrase,
                                      int IDEAPwdBufferLen,
                                      LPSTR PublicKeyRingName,
                                      LPSTR PrivateKeyRingName);

这是我的 C# 声明：

        [DllImport("smplpgp_32.dll", CallingConvention = CallingConvention.StdCall)]
    public static extern int SimplePGPEncryptFile(
        IntPtr hWnd1,
        [MarshalAs(UnmanagedType.LPStr)] string InputFileName,
        [MarshalAs(UnmanagedType.LPStr)] string OutputFileName,
        bool SignIt,
        bool Wipe,
        bool Armor,
        bool TextMode,
        bool IDEAOnly,
        bool UseUntrustedKeys,
        [MarshalAs(UnmanagedType.LPStr)] string RecipientList,
        [MarshalAs(UnmanagedType.LPStr)] string SignerKeyID,
        int SignerBufferLen,
        [MarshalAs(UnmanagedType.LPStr)] string SignerPassphrase,
        int SignerPwdBufferLen,
        [MarshalAs(UnmanagedType.LPStr)] string IDEAPassphrase,
        int IDEAPwdBufferLen,
        [MarshalAs(UnmanagedType.LPStr)] string PublicKeyRingName,
        [MarshalAs(UnmanagedType.LPStr)] string PrivateKeyRingName);

当我调用此方法时，出现以下两个错误之一（在标题中声明）：

#define SIMPLEPGPENCRYPTFILE_RECIPIENTLISTDOESNOTENDWITHNEWLINE    408
#define SIMPLEPGPENCRYPTFILE_RECIPIENTLISTDOESNOTSTARTWITHGOODCODECHAR   409

这也被定义为头部中的常量：

#define INCLUDE_ONLYUSERIDS 1

这是已知可调用此函数的 C++ 代码：

    char recipients[512];
recipients[0] = INCLUDE_ONLYUSERIDS;
strcat(strcpy(&recipients[1], rID), "\n"); \\ rID is equal to "CA"
return 0 == SimplePGPEncryptFile(INI.m_hWnd,
    (char*)plain, (char*)cipher,
    0,
    0,
    1,
    0,
    0,
    1, // UseUntrustedKeys
    recipients,
    0, 0,
    0, 0,
    0, 0,
    PGPKM.pub, 0); //PGPKM.pub is declared earlier

将这个传递给“RecipientList”参数会给我“409”错误：

string recipientList = "1CA\n\0";

将这个传递给“RecipientList”参数会给我“408”错误：

char[] recipients = new char[512];
recipients[0] = '1';
recipients[1] = 'C';
recipients[2] = 'A';
recipients[3] = '\n'; // also tried '\r', then '\n'
recipients[4] = Char.MinValue;
string paramValue = recipients.ToString();

谁能发现我的明显疏忽？我觉得我已经拥有了解决这个问题所需的一切，但没有任何事情能按预期工作。

旁注：我在同一个 .dll 中成功调用了不同的函数。另外，我已经尝试使用 StringBuilder 来构造 RecipientList 参数。

感谢您的任何建议！

Answer 1

TLDR：

string recipientList = (char) 1 + "CA\n\0";

根据 Jeffora 的评论进行了一些挖掘......他可能是对的，我的第一个建议可能不会给你任何帮助。我写了一些测试代码，这是我发现的：

当您使用此代码时：

string recipientList = "1CA\n\0";

在编组为 LPStr 后，函数内部最终得到的字节是：

49-67-65-10-0

这看起来像你想要的。

当您使用此代码时：

char[] recipients = new char[512];
recipients[0] = '1';
recipients[1] = 'C';
recipients[2] = 'A';
recipients[3] = '\n'; // also tried '\r', then '\n'
recipients[4] = Char.MinValue;
string paramValue = recipients.ToString();

编组为 LPStr 后在函数内部获得的字节是：

83-121-115-116-101-109-46-67-104-97-114-91-93

这是“System.Char[]”的 ASCII。因此，您肯定需要使用编码器将 char[] 转换为您想要的字符串。

至于为什么第一个字符串不起作用...我怀疑您的 DLL 确实在寻找值 '1'，而不是 '1' (49) 的 ascii 字符。在有效的代码中，您说：

recipients[0] = INCLUDE_ONLYUSERIDS;

其中 INCLUDE_ONLYUSERIDS = 1

试试这个：

string recipientList = (char) 1 + "CA\n\0";

原始答案：
我认为问题在于 Char.ToString() 将 char 视为 unicode 字符，但您将其编组为 LPStr，而不是 LPWStr。 LPStr 正在寻找一串 ANSII 字符。

要解决此问题，请尝试使用字节数组。

byte[] recipients= new byte[512];
 ...
//  Pass this string to SimplePGPEncryptFile
string recipientsToPass = System.Text.ASCIIEncoding.ASCII.GetString(recipients);

Answer 2

您是否尝试更改调用约定？ 在 C++ 中，您使用 pascal 调用约定声明函数，在 C# 中声明为 stdcall。 调用约定必须匹配。