通过 API 对 Keras 模型进行在线预测

Question

我有一个使用 Keras 和 Tensorflow 2 训练的图像分类深度学习 CNN 模型（.h5 文件），我想在线使用它进行预测。我想要一个 API，它通过 HTTP 获取单个输入图像，并使用经过训练的模型以预测的类标签进行响应。有没有 Keras 或 Tensorflow 提供的 API 来做同样的事情？

Answer 1

有两个基本选项：

• 使用TensorFlow Serving - 它提供现成的 REST API 服务器，您唯一需要做的就是将模型转换为 .pb 格式。

• 编写您自己的简单 REST 服务器（例如，在 Flask 上），它将在输入上调用 model.predict()（这种方法可能更容易开始，但很难针对重负载进行扩展/优化.