在用TVM优化过程中,常见demo如下图:
relay.build背后的调用机制梳理如下:
- python中的build函数实现如下,此方法实际调用了BuildModule类的build方法,
-
BuildModule获取的C++函数build方法,此处涉及混合编程:
-
- _build_module._BuildModule() 来自于这句注册:
- tvm._ffi._init_api("relay.build_module", __name__)
- self.mod["build"]调用RelayBuildModule的GetFunction方法,其中name为“build”:
- RelayBuildModule类的build方法如下,主要包含两部分功能,Optimize和codegen:
- Optimize函数有很多优化策略,
- 在此处执行,实际执行的是SequentialNode的operator方法:
- Sequential::Sequential构造函数如下,其中name为声明带默认参数:
-
Sequential的operator->()方法调用的是SequentialNode的operator()方法:
- codegen 代码逻辑如下:
- GetPackedFun函数调用的是提前注册的函数CreateGraphCodegenMod(),返回GraphRuntimeCodegenModule类型的对象
-
graph_codegen_ 指针指向的是GraphRuntimeCodegenModule类的对象,Init方法,Codegen方法,GetIRModule都来自于注册的GraphRuntimeCodegenModule 实例,
-
-
Codegen 调用GraphRuntimeCodegenModule的codegen_,是GraphRuntimeCodegen的实例指针,调用的codegen代码如下
-
-