Tensorflow 与 Tensorflow Lite 的性能对比答案

【问题标题】：Performance of Tensorflow vs Tensorflow LiteTensorflow 与 Tensorflow Lite 的性能对比
【发布时间】：2020-04-09 08:40:54
【问题描述】：

将 TensorFlow 模型转换为 TensorFlow Lite 格式时是否存在性能损失？因为我从不同的边缘设备获得了这些结果：

与作为 TensorFlow Lite 模型的 Raspberry 模型相比，Nvidia Jetson 与 TensorFlow 模型（TensorRT 优化）相比具有更高的准确度是否有意义。

【问题讨论】：

【解决方案1】：

通常会有性能损失，但不是那么大，更准确地说是在某些模型中的准确度约为 3%，但您必须自行测试以检查准确度。

使用 TensorRT 或 TensorFlow-Lite 的模型不会经过完全相同的转换步骤（否则它们将是相同的）。因此，很明显，差异是显而易见的。

总结：与性能损失（最大 3%）相比，速度的提升更为重要。对于每一个假设，都应该进行测试。

【讨论】：

感谢您的快速回答 :) 在将 TensorFlow 模型转换为 TensorFlow Lite 时，您是否有任何文章显示性能损失（如您所说）？
在您提到的文章中只是列出了时序基准。我正在搜索有关从 TensorFlow 转换为 TensorFlow Lite 时的准确性损失的文章。你有其他相关的文献吗？
当然是 scch-sims！看看这里：tensorflow.org/lite/performance/post_training_quant