Tensorflow-Onnx-Tensorrt 的准确度下降

Question

我有一个经过 tensorflow 训练的模型，并在 tensorflow 上进行了测试，准确率达到了 95%。

Tensorflow 模型转换为 ONNX 并转换为 TensorRT。 TensorRT 引擎以 16 位精度运行。 在 TensorRT 中，准确率下降到 75%。即使使用 kTF32，准确率仍然是 75%。 为两个测试和相同的输入大小测试了相同的图像。

我应该在哪里查看这种准确度下降？唯一的区别是我在 TensorRT 中进行批量推理，而不是在 Tensorflow 中。

使用 OpenCV 为 Tensorflow 和 TensorRT 读取图像。

从 Tensorflow 到 ONNX 的转换精度会下降吗？

Answer 1

现在我发现了问题。 Tensorflow 通过乘以 1/255.0 对输入图像进行归一化。但是在张量归一化中，它是 1-x/255.0。这就是问题所在。现在我有同样的准确性。