tensorflow 服务是否适用于多个输入（或输出）？

【问题标题】：Does tensorflow serving work with more than one input (or output)?tensorflow 服务是否适用于多个输入（或输出）？
【发布时间】：2018-01-30 10:58:17
【问题描述】：

任何 Keras 模型都可以通过 TensorFlow-serving 导出（只要它只有一个输入和一个输出，这是一个限制 TF-serving)

这（仍然）是真的吗？我找不到其他参考资料

【问题讨论】：

【解决方案1】：

只要您使用 TF-serving 的 PREDICT 接口，您就可以有多个输入和输出张量，并在 SavedModel 的不同签名中公开它们的任意组合。例如，看看

因此，虽然编写的 Keras-exporter 代码可能存在限制（我还没有查看），但 SavedModel on TensorFlow Serving 没有这种限制（我正在开发的产品经常使用该功能）

【讨论】：

但是，是否可以在单个请求中发送多组输入进行预测。像批次？比如说，我通常的预测输入 (1,2,3) 是{"input": {src_ids: "[1,2,3]"}}。我可以在单个请求中同时预测 1,2,3 和 4,5,6 吗？