TensorFlow开源之后，Google又发布面向生产环境的TensorFlow Serving。Google software engineer Noah Fiedel在googleresearch博文中介绍，TensorFlow Serving是一个高性能、开源的机器学习服务系统，为生产环境及优化TensorFlow而设计，适合运行多个大规模模型，支持模型生命周期管理、多种算法实验及有效地利用GPU资源，能够让模型更快、更易于投入生产环境。
TensorFlow Serving简化的工作流程如下图（有监督）：
TensorFlow Serving采用C++编写，支持Linux。允许安全部署新模型，运行相同服务器架构与API的实验。提供与TensorFlow的集成，但也扩展支持其他类型的模型。
链接：
github.com/tensorflow/serving
tutorial