现象:C++ 导出函数的返回值为 false,C# 调用该函数获取的返回值却为 true 。

原因:C++ 导出函数返回 false 时,采取的方式是:

将 C# 定义的用来接收返回值的 bool 所指的地址开始 4 个字节设为 0x01000000(见图1)。

注:用 C++ 代码调用该导出函数时,采取的方式是:将 C++ 定义的用来接收返回值的 bool 所指的地址开始 1 个 字节设为 0x00;

     为什么用 C# 代码调用该导出函数时,采取的方式不是:将 C# 定义的用来接收返回值的 bool 所指的地址开始 1个 字节 设为 0x00 ? —— 编译器问题(BUG?)。

图 1

C# 调用 C++ 的 DLL 返回值为 bool 时,值混乱

 

解决方案:

在 C++ 导出函数中使用 BOOL 代替 bool 。

注:由于C++ 中的 BOOL 占4个字节,

C++ 导出函数返回 false 时,采取的方式是:

将 C# 定义的用来接收返回值的 bool 所指的地址开始 4 个字节设为 0x00000000(见图2),因此不存在上述问题。

图 2

C# 调用 C++ 的 DLL 返回值为 bool 时,值混乱

 

图3

C# 调用 C++ 的 DLL 返回值为 bool 时,值混乱

相关文章:

  • 2022-12-23
  • 2021-08-04
  • 2022-12-23
  • 2021-06-12
  • 2022-12-23
  • 2022-12-23
  • 2022-01-30
  • 2021-11-06
猜你喜欢
  • 2022-12-23
  • 2022-12-23
  • 2022-12-23
  • 2022-12-23
  • 2021-08-26
  • 2021-06-13
相关资源
相似解决方案