如何将一批图像发送到 TensorFlow 服务器？答案

【问题标题】：How to send a batch of images to Tensorflow server?如何将一批图像发送到 TensorFlow 服务器？
【发布时间】：2021-03-10 14:56:51
【问题描述】：

我已经在 Tensorflow Serving（SSD 架构）上部署了一个对象检测模型，我可以通过以下方式请求该模型：

data = {"signature_name": "serving_default", "instances": [{"input_tensor": {"b64": b64}}]}
url = '%s/v1/models/mymodel:predict' % MODEL_BASE_URL
response = requests.post(url, headers=headers,data=json.dumps(data))
preds = response.json()['predictions']

其中 b64 是我的图像的 base64 编码。我的结果长度为 1，包含所有分数、detection_boxes 等。

我现在想提交一批图片。除了现在类似的数据之外，我的调用是相同的：

data = {"signature_name": "serving_default", "instances": [{"input_tensor": {"b64": b64A}},{"input_tensor": {"b64": b64B}},...]}

其中 b64A 是图像 A 的编码，图像 B 的 b64B 等。我期待一个长度等于我的批次大小的结果，但它的大小仍然为 1。我的错误在哪里？

【问题讨论】：

也许您可以将 b64 作为列发送：```"instances": [ {"input_tensor": { "b64": [b64A, b64B, ... ] }
很遗憾，它无法正常工作，但感谢您的帮助！

标签： python object-detection tensorflow-serving

【解决方案1】：

请尝试：-

data = {"signature_name": "serving_default", "instances": [{"b64": "b64A"},{"b64": "b64B"},...]}

请点击此链接（数据编码）：-

https://cloud.google.com/ai-platform/prediction/docs/reference/rest/v1/projects/predict#request-body

【讨论】：