在没有云存储桶的 GCP 上部署模型

Question

我在本地机器上开发了一个基于 Tensorflow 的机器学习模型。我想将它部署在 Google Cloud Platform（Cloud ML Engine）中进行预测。 该模型从 Google Bigquery 读取输入数据，并且输出预测只能用 Google Bigquery 编写。 在运行模型预测之前，必须运行一些数据准备脚本。我已经使用 Google Cloud Storage 进行模型存储并使用它进行部署，我已经成功部署了它。 但是，我可以将其存储在 GCP VM（或本地机器）上并从 Cloud ML Engine 调用它进行预测，而不是使用 Google Cloud Storage 来保存模型（即 .pb 或 .pkl 模型文件）吗？可能吗？或者我只能选择将模型目录上传到 Cloud Storage 存储桶，我将使用它进行预测？

你能帮我解决这个问题吗？

Answer 1

对于模型部署，您需要使用 AI Platform 的 Google Cloud Storage。 另一种选择是使用 AI 平台训练（本地或 GCP 中），将模型（SavedModel 格式）输出到本地文件夹或云存储，然后使用 Compute Engine 实例中的 TF Serving 从那里输出。