AttachConsole 和 64 位应用程序

Question

当程序编译为 64 位时，WinAPI 函数AttachConsole 始终返回 true。

首先，我将函数声明如下：

function AttachConsole(dwProcessId: DWORD): Bool; stdcall; external KERNEL32 name 'AttachConsole';

然后我调用我的函数：

if AttachConsole(DWORD(-1)) then
   ....

当编译为 32 位应用程序时，这可以正常工作，但当编译为 64 位应用程序时，它总是返回 true。

documentation 没有提到为 64 位应用程序做一些特殊的事情。

如何重现：

1. 创建一个新的 VCL 应用程序
2. 将目标平台设置为 Win64
3. 将 DPR 文件编辑为如下所示：

program Project1;

uses
  System.Types,
  WinApi.windows,
  Vcl.Forms,
  Unit1 in 'Unit1.pas' {Form1};

{$R *.res}

function AttachConsole(dwProcessId: DWORD): Bool; stdcall; external KERNEL32 name 'AttachConsole';


begin
  if AttachConsole(DWORD(-1)) then
  begin
    writeLN('Hello world');
    Exit;
  end;

  Application.Initialize;
  Application.MainFormOnTaskbar := True;
  Application.CreateForm(TForm1, Form1);
  Application.Run;
end.

在 Win64 下运行时，AttachConsole 即使在资源管理器中运行也会返回 true。

Answer 1

从documenation 链接，dwProcessId [in] 可以采用两种类型的值 - 目标进程的 PID 或特殊参数：

ATTACH_PARENT_PROCESS (DWORD)-1

使用当前进程父进程的控制台。

这里您使用的是值ATTACH_PARENT_PROCESS。

在 64 位调试的情况下，IDE 似乎正在为 64 位调试器创建一个控制台，该控制台将调试的应用程序作为子级托管，因此选择附加到父级控制台成功。

对于 32 位调试会话，应用程序作为 IDE 的子级生成。我们可以猜测这是因为 IDE 本身是一个 32 位应用程序，可以直接挂钩到 32 位进程，而 64 位应用程序必须附加到 64 位调试器。

使用进程资源管理器，我们可以在 IDE 中启动进程进行调试时看到进程层次结构的差异：

在这里我们可以看到 64 位进程作为子进程托管在调试器内核中，而 32 位进程则不是。

在调试器之外运行（64 位）应用程序会产生预期的结果，其中AttachConsole(ATTACH_PARENT_PROCESS) 失败。