如何使用 REST API 端点启动 TensorFlow Serving ModelServer答案

【问题标题】：How to start TensorFlow Serving ModelServer with the REST API endpoint如何使用 REST API 端点启动 TensorFlow Serving ModelServer
【发布时间】：2018-06-28 14:02:19
【问题描述】：

我正在尝试利用新的可能性将 HTTP 请求发送到 TensorFlow 模型服务器。但是，当我尝试运行以下命令时，它无法识别 --rest_api_port 参数：

tensorflow_model_server --rest_api_port=8501 \
   --model_name=half_plus_three \
   --model_base_path=$(pwd)/serving/tensorflow_serving/servables/tensorflow/testdata/saved_model_half_plus_three/

unknown argument: --rest_api_port=8501

【问题讨论】：

标签： rest tensorflow tensorflow-serving

【解决方案1】：

我遇到了同样的错误。我查看了源代码。

在main.cc文件中，r1.7以下源代码版本中没有rest_api_port选项。

因此，如果要使用 REST，则需要使用上面的 tensorflow-serving r1.8 或自行实现。

希望对你有帮助。

【讨论】：

谢谢吉米。你有检查 tensorflow-serving 版本的好方法吗？原来我遇到了问题，因为我试图在 AWS Deep Learning AMI 上运行，即使它似乎说它更新到了最新版本，但显然它没有。（如果我尝试升级，它会说 tensorflow-model-server 已经是最新版本 1.8）
@CSquare 那么，您是否使用 bazel 自己构建 tensorflow-model-server？或者使用apt-get下载并安装它？如果您收到前面提到的错误，则安装的 tensorflow-serving 版本不是 1.8 版。请告诉我你是用什么方法安装的。
我按照用户指南 (docs.aws.amazon.com/dlami/latest/devguide/…) 中的建议尝试了“pip install --upgrade” 我尝试了 apt-get 但 DL AMI 预装了 tensorflow，当我使用 apt 时似乎-get it 将它全部安装（没有看到以前的安装？）但在功能上它没有任何区别。我不确定如何查看安装的位置以及调用程序的位置。我通过使用没有这些预安装的 AMI 并安装为自己服务的 tensorflow 来解决这个问题。