用于 cnn-text-classification tensorflow POST 请求格式的 Python Flask

Question

我正在做cnn-text-classification-tf。我的目标是从冻结图进行预测。

我的问题是如何从冻结图进行预测。我找到了一个很棒的教程https://blog.metaflow.fr/tensorflow-how-to-freeze-a-model-and-serve-it-with-a-python-api-d4f3596b3adc。他正在使用烧瓶实现冻结图。

我正在使用如下所示的烧瓶代码进行预测。

import json, argparse, time

import tensorflow as tf
from linkedin import load_graph

from flask import Flask, request
from flask_cors import CORS
##################################################
# API part
##################################################
app = Flask(__name__)
cors = CORS(app)
@app.route("/api/predict", methods=['POST'])
def predict():
    start = time.time()

    data = request.data.decode("utf-8")
    if data == "":
        params = request.form
        x_in = json.loads(params['x'])
    else:
        params = json.loads(data)
        x_in = params['x']

    ##################################################
    # Tensorflow part
    ##################################################
    y_out = persistent_sess.run(y, feed_dict={
        x: x_in
        # x: [[3, 5, 7, 4, 5, 1, 1, 1, 1, 1]] # < 45
    })
    ##################################################
    # END Tensorflow part
    ##################################################

    json_data = json.dumps({'y': y_out.tolist()})
    print("Time spent handling the request: %f" % (time.time() - start))

    return json_data
##################################################
# END API part
##################################################

if __name__ == "__main__":
    parser = argparse.ArgumentParser()
    parser.add_argument("--frozen_model_filename", default="frozen_model2.pb", type=str, help="Frozen model file to import")
    parser.add_argument("--gpu_memory", default=.2, type=float, help="GPU memory per process")
    args = parser.parse_args()

    ##################################################
    # Tensorflow part
    ##################################################
    print('Loading the model')
    graph = load_graph(args.frozen_model_filename)
    x = graph.get_tensor_by_name('prefix/input_x:0')
    y = graph.get_tensor_by_name('prefix/output/predictions:0')

    print('Starting Session, setting the GPU memory usage to %f' % args.gpu_memory)
    gpu_options = tf.GPUOptions(per_process_gpu_memory_fraction=args.gpu_memory)
    sess_config = tf.ConfigProto(gpu_options=gpu_options)
    persistent_sess = tf.Session(graph=graph, config=sess_config)
    ##################################################
    # END Tensorflow part
    ##################################################

    print('Starting the API')
    app.run()

我在 MacOS 上使用终端来运行这个脚本

运行后，我使用邮递员发布请求：

我如何正确地构建此请求以获得正确的响应。 Postman in body 中需要的具体输入是什么？

Answer 1

在 Postman 中，您发送的是 POST 请求和 json 格式的数据，因此您需要更改代码。

为了获取数据，首先进行如下验证：

if not 'data' in request.json:
    abort(400)

之后，您可以按如下方式访问字符串：

x_in = request.json["data"]

但如果您想在请求中进行更改，那么您可以尝试如下发送数据：

{ 
   "data" : {
               "x" : "good movie it was"
             }
 }

这应该可以，如果不行，请告诉我。