TensorRT Development document (Python)

使用python API的优点是方便于数据预处理以及后续处理，可以使用numpy和scipy。但是python API的安全性不如C++ API。

使用Python API，结构较为清晰，分为四部：

1、Creating A Network Definition In Python （用python定义网络）

2、Building An Engine In Python

3、Serializing A Model In Python

4、Performing Inference In Python

 

Import TensorRT

import tensorrt as trt

logging interface :  reports errors, warnings, and informational messages

TRT_LOGGER = trt.Logger(trt.Logger.WARNING)

Creating A Network Definition

1、From Scratch

2、Importing From ONNX