是否可以完全用托管的 .NET 语言编写 JIT 编译器（本地代码）

Question

我在玩弄编写 JIT 编译器的想法，只是想知道理论上是否可以用托管代码编写整个东西。特别是，一旦您将汇编程序生成为字节数组，您如何跳入其中开始执行？

Answer 1

使用不安全代码，您可以“破解”委托并使其指向您生成并存储在数组中的任意汇编代码。这个想法是委托有一个_methodPtr 字段，可以使用反射进行设置。下面是一些示例代码：

• Inline x86 ASM in C#

当然，这是一个肮脏的 hack，当 .NET 运行时发生变化时，它可能随时停止工作。

我猜，原则上，完全托管的安全代码不允许实现 JIT，因为这会破坏运行时所依赖的任何安全假设。 （除非生成的汇编代码带有机器可检查的证明，证明它不违反假设......）

Answer 2

是的，你可以。事实上，这是我的工作:)

我已经完全用 F# 编写了 GPU.NET（以我们的单元测试为模）——它实际上在运行时反汇编并 JITs IL，就像 .NET CLR 所做的那样。我们为您想要使用的任何底层加速设备发出本机代码；目前我们只支持 Nvidia GPU，但我将我们的系统设计为可通过最少的工作重新定位，因此我们将来可能会支持其他平台。

至于性能，我要感谢 F#——当在优化模式下编译时（带有尾调用），我们的 JIT 编译器本身可能与 CLR 中的编译器（用 C++、IIRC 编写）一样快。

对于执行，我们的好处是能够将控制权传递给硬件驱动程序以运行 jit 代码；然而，这在 CPU 上并不难做到，因为 .NET 支持指向非托管/本机代码的函数指针（尽管您会失去 .NET 通常提供的任何安全性/安全性）。

Answer 3

技巧应该是VirtualAlloc 与EXECUTE_READWRITE-标志（需要P/Invoke）和Marshal.GetDelegateForFunctionPointer。

这里是旋转整数示例的修改版本（注意这里不需要不安全的代码）：

[UnmanagedFunctionPointer(CallingConvention.Cdecl)]
public delegate uint Ret1ArgDelegate(uint arg1);

public static void Main(string[] args){
    // Bitwise rotate input and return it.
    // The rest is just to handle CDECL calling convention.
    byte[] asmBytes = new byte[]
    {        
      0x55,             // push ebp
      0x8B, 0xEC,       // mov ebp, esp 
      0x8B, 0x45, 0x08, // mov eax, [ebp+8]
      0xD1, 0xC8,       // ror eax, 1
      0x5D,             // pop ebp 
      0xC3              // ret
    };

    // Allocate memory with EXECUTE_READWRITE permissions
    IntPtr executableMemory = 
        VirtualAlloc(
            IntPtr.Zero, 
            (UIntPtr) asmBytes.Length,    
            AllocationType.COMMIT,
            MemoryProtection.EXECUTE_READWRITE
        );

    // Copy the machine code into the allocated memory
    Marshal.Copy(asmBytes, 0, executableMemory, asmBytes.Length);

    // Create a delegate to the machine code.
    Ret1ArgDelegate del = 
        (Ret1ArgDelegate) Marshal.GetDelegateForFunctionPointer(
            executableMemory, 
            typeof(Ret1ArgDelegate)
        );

    // Call it
    uint n = (uint)0xFFFFFFFC;
    n = del(n);
    Console.WriteLine("{0:x}", n);

    // Free the memory
    VirtualFree(executableMemory, UIntPtr.Zero, FreeType.DECOMMIT);
 }

Full example（现在适用于 X86 和 X64）。

Answer 4

对于完整的概念证明，这里是将 Rasmus 的 JIT 方法完全有能力翻译成 F#

open System
open System.Runtime.InteropServices

type AllocationType =
    | COMMIT=0x1000u

type MemoryProtection =
    | EXECUTE_READWRITE=0x40u

type FreeType =
    | DECOMMIT = 0x4000u

[<DllImport("kernel32.dll", SetLastError=true)>]
extern IntPtr VirtualAlloc(IntPtr lpAddress, UIntPtr dwSize, AllocationType flAllocationType, MemoryProtection flProtect);

[<DllImport("kernel32.dll", SetLastError=true)>]
extern bool VirtualFree(IntPtr lpAddress, UIntPtr dwSize, FreeType freeType);

let JITcode: byte[] = [|0x55uy;0x8Buy;0xECuy;0x8Buy;0x45uy;0x08uy;0xD1uy;0xC8uy;0x5Duy;0xC3uy|]

[<UnmanagedFunctionPointer(CallingConvention.Cdecl)>] 
type Ret1ArgDelegate = delegate of (uint32) -> uint32

[<EntryPointAttribute>]
let main (args: string[]) =
    let executableMemory = VirtualAlloc(IntPtr.Zero, UIntPtr(uint32(JITcode.Length)), AllocationType.COMMIT, MemoryProtection.EXECUTE_READWRITE)
    Marshal.Copy(JITcode, 0, executableMemory, JITcode.Length)
    let jitedFun = Marshal.GetDelegateForFunctionPointer(executableMemory, typeof<Ret1ArgDelegate>) :?> Ret1ArgDelegate
    let mutable test = 0xFFFFFFFCu
    printfn "Value before: %X" test
    test <- jitedFun.Invoke test
    printfn "Value after: %X" test
    VirtualFree(executableMemory, UIntPtr.Zero, FreeType.DECOMMIT) |> ignore
    0

愉快地执行让步

Value before: FFFFFFFC
Value after: 7FFFFFFE