FastAPI 加载 model.pb - SavedModel 文件不存在错误

Question

我正在尝试在 FastAPI 上加载经过训练的模型并尝试从笔记本中对其进行 ping 操作（以模拟前端调用）。但是不断收到错误说模型文件不存在。我对此很陌生，欢迎任何建议......

培训笔记本： model.save('/data/model')

下载模型并将整个文件夹放在FastAPI文件夹中。

FastAPI 中的文件结构：

>> API
  >> _pycache_
  >> model
    >> assets
    >> variables
    keras_metadata.pb
    saved_model.pb
  >> pyapi-env
  api.py

api.py

from fastapi import FastAPI
from tensorflow.keras.models import load_model
...

@app.get("/predict")
def predict(test):
  ...
  model = load_model("./model/saved_model.pb")
  ...

测试笔记本：

import requests

url = "http://localhost:8000/predict"
params = {
    "test": "testing",
}
res = requests.get(url, params=params)
res.json()

错误： OSError: SavedModel file does not exist at: ./model/saved_model.pb\{saved_model.pbtxt|saved_model.pb}

Answer 1

我遇到了同样的问题，这对我有用：

model = load_model("./model/")

您的代码似乎将“saved_model.pb”视为一个目录并在其中查找模型文件。