【问题标题】:How to load checkpoint and inference with C++ for tensorflow?如何使用 C++ 为 tensorflow 加载检查点和推理?
【发布时间】:2017-11-14 15:45:07
【问题描述】:
我有带有 python api 的 Tensorflow 并获得了这些检查点模型文件:
model.ckpt-17763.data-00000-of-00001
model.ckpt-17763.index
model.ckpt-17763.meta
但在集成到生产环境时,我想要一个 C/C++ 共享库(.so 文件)。所以我需要加载这些模型文件并使用 C++ 代码进行推理并编译到共享库。是否有一些教程或示例可以做到这一点?
【问题讨论】:
标签:
c++
tensorflow
deep-learning
conv-neural-network
tensorflow-serving
【解决方案1】:
您可以按照here 给出的说明编写 c++ 代码来加载和使用您的图形。
您可以使用文件here 在 TF 存储库之外使用 tensorflow 制作 Cmake 项目,并编译您的库。
但是,您仍然需要 .ckpt 文件旁边的 .so,我不知道如何将它们集成到其中。
关于 SO 有很多关于这个的问题,还有一些教程(参见 this answer 中引用的两个),但由于 tensorflow 发展迅速,它们很快就过时了,而且获得它总是有点困难正常工作(完全可行,而且越来越容易)。