如何在 Python 中导入 tensorflow lite 解释器？

Question

我正在 Raspberry Pi 3b 上使用 TF lite 开发一个 Tensorflow 嵌入式应用程序，运行 Raspbian Stretch。我已将图形转换为 flatbuffer (lite) 格式，并在 Pi 上本地构建了 TFLite 静态库。到目前为止，一切都很好。但是该应用程序是 Python 并且似乎没有可用的 Python 绑定。 Tensorflow Lite 开发指南 (https://www.tensorflow.org/mobile/tflite/devguide) 指出“有 Python 绑定和演示应用程序的计划。”然而，/tensorflow/contrib/lite/python/interpreter_wrapper 中有包含所有需要的解释器方法的包装器代码。然而，从 Python 调用它却让我难以理解。

我已生成 SWIG 包装器，但构建步骤失败并出现许多错误。没有描述interpreter_wrapper 状态的readme.md。所以，我想知道包装器是否对其他人有用，我应该坚持下去，还是它从根本上被破坏了，我应该去别处寻找（PyTorch）？有人找到 Pi3 的 TFLite Python 绑定的路径吗？

Answer 1

我能够在运行 Ubuntu 和 ARM64 的 x86 上编写 python 脚本来进行分类1、对象检测（使用 SSD MobilenetV{1,2} 测试）2 和图像语义分割3主板运行 Debian。

• 如何为 TF Lite 代码构建 Python 绑定：使用最近的 TensorFlow 主分支构建 pip 并安装它（是的，那些绑定在 TF 1.8 中。但是，我不知道为什么没有安装它们）。有关如何构建和安装 TensorFlow pip 包的信息，请参阅 4。

Answer 2

关于在 Python 中使用 TensorFlow Lite 解释器，以下示例复制自 documentation。该代码在TensorFlow GitHub 的master 分支上可用。

使用模型文件中的解释器

以下示例展示了在提供 TensorFlow Lite FlatBuffer 文件时如何使用 TensorFlow Lite Python 解释器。该示例还演示了如何对随机输入数据进行推理。在 Python 终端中运行 help(tf.contrib.lite.Interpreter) 以获取有关解释器的详细文档。

import numpy as np
import tensorflow as tf

# Load TFLite model and allocate tensors.
interpreter = tf.contrib.lite.Interpreter(model_path="converted_model.tflite")
interpreter.allocate_tensors()

# Get input and output tensors.
input_details = interpreter.get_input_details()
output_details = interpreter.get_output_details()

# Test model on random input data.
input_shape = input_details[0]['shape']
input_data = np.array(np.random.random_sample(input_shape), dtype=np.float32)
interpreter.set_tensor(input_details[0]['index'], input_data)

interpreter.invoke()
output_data = interpreter.get_tensor(output_details[0]['index'])
print(output_data)