用 Python 训练神经网络并用 C++ 部署

Question

我打开此主题讨论如何将我的 NN 模型用于部署。

我使用 mdCNN 在 Matlab 中构建和训练了一个 NN，（mdCNN 是一个简单的 Matlab 库，用于构建多维输入的 NN，目前 Matlab 不支持 - cov3x3x3）。我在 Matlab 中训练了我的模型，现在我想将它投入生产。

经过几个小时的研究，我打算做以下事情

1. 使用 TF 后端在 Keras 中训练一个 NN 模型。我选择 Keras 是因为我希望将来能够向后兼容 Matlab。

2. 从 Keras 模型中获取一个 tensorflow 会话，有一个示例如何做到这一点here。比 *.pd 文件中的Save the session

3. 从openCV dnn 模型加载神经网络模型。有一个特定的功能可以做到这一点

   cv::readNet()
   

4. 使用带有 OpenCV 的 C++ 运行 NN

   net.setInput(blob);
   Mat prob = net.forward();
   

我想和你确认一下这个流程是否真的有效。有什么建议可以更好地进行部署吗？对流程有什么建议或改进吗？

Answer 1

也许看看这个问题：Convert Keras model to C++

总体思路是将模型保存在json中，权重保存在hdf5中，然后使用keras2cpp这个解决方案将其转换为C++。