在 GCP 上提供张量流模型？ [关闭]答案

【问题标题】：Serving tensorflow models on GCP? [closed]在 GCP 上提供张量流模型？ [关闭]
【发布时间】：2021-02-28 08:28:43
【问题描述】：

最近我一直在尝试在 GCP 上托管一个自定义图像分类 tensorflow 保存模型，并使用 REST API 发送预测请求。我已经在 Google 的 AI Platform API 上托管了这个模型。

我正在尝试在 React Native 上构建一个应用程序。本质上，我从手机拍了一张照片，然后使用 REST 将其发送到我的模型。不幸的是，在查阅此文档后，我似乎需要 OAuth 令牌才能通过预测请求。我不想要这个功能。我不希望用户需要登录才能发送预测请求。

我想知道是否有办法托管这个 tensorflow 模型并从我的 React Native 环境发送 fetch() 请求。

如果有人以前这样做过，请告诉我！我非常感谢所有的帮助。

我愿意尝试不同的托管平台，但 tensorflow 网站已将我指向 GCP。

【问题讨论】：

【解决方案1】：

首先，我不建议你像这样公开开放计费资源，因为你容易受到攻击和巨大的消耗。

但是，如果您真的想实现这一点，您可以在部署的模型上允许 allUsers

gcloud ai-platform models add-iam-policy-binding <MY_MODEL_NAME> \
  --member="allUsers" \
  --role="roles/ml.modelUser"

【讨论】：

有意思，那我还有什么其他平台可以为这些模型提供服务吗？
你能告诉我这段代码背后的文档吗？
您可以找到文档here。不是很明显，但 IAM 策略绑定在多个服务上以相同的方式工作。别人服务的经验让我推断出正确的答案！
服务于 tensorflow 模型的其他平台？我给load dynamically a model and serve it 和another one to create a container with the model embedded 写了2 篇文章（效率更高，模型不是动态下载和加载的）。两种解决方案都在 Cloud Run 上（服务于无服务器容器），但您可以将容器托管在您想要的位置。在虚拟机或 Kubernetes/GKE 上
如果我执行此解决方案，那么我是否必须在我的 HTTPS 请求中发送任何身份验证令牌？我将如何发出 HTTPS 请求？如果你能提供一个例子，我将不胜感激。我正在使用以下文档：cloud.google.com/ai-platform/prediction/docs/reference/rest/v1/…