【问题标题】:Serving service from kfserving github examples created with kubectl, but can not infere使用 kubectl 创建的 kfserving github 示例提供服务,但无法推断
【发布时间】:2021-08-28 13:32:06
【问题描述】:

我已经在 linux 桌面上安装了 minikube 集群和 kfserving。 然后我跟着两个教程
https://github.com/kubeflow/kfserving/tree/master/docs/samples/v1beta1/custom/torchserve
https://github.com/kubeflow/kfserving/tree/master/docs/samples/v1alpha2/custom/kfserving-custom-model

在第二个教程中,我需要将 yaml 文件中的“名称:自定义”从“自定义:”部分移动到“容器:”部分。
我预计服务服务正在工作并响应服务请求和服务的 pod 在 Kubernetes 中。
我使用的是 2021 年 5 月以来的最新稳定版本。

但我在两个教程中都有相同的错误。波纹管命令来自第一个教程。当我使用模型准备 docker 图像并运行时

$ kubectl apply -f torchserve-custom.yaml

命令。
我看到像

这样的输出
inferenceservice.serving.kubeflow.org/torchserve-custom created

但我无法运行预测,因为找不到 404 服务。
当我跑步时

$ kubectl get pods --all-namespaces

我没有看到任何新的 pod。
但我可以删除服务

 $ kubectl delete -f torchserve-custom

当我遵循其他教程时,例如:https://github.com/kubeflow/kfserving/tree/master/docs/samples/v1beta1/torchserve 一切正常,我可以运行预测。

为什么我不能运行预测?

为什么要创建新的 pod?

如果上述教程不起作用,如何使用 docker 镜像在 kfserving 中设置服务?

【问题讨论】:

  • 您是否检查过KFServing 是否正常工作?
  • 原来我的本地 docker 注册表在 kubernetes 中不可见。 kubectl get events 显示 InternalError “无法获取图像...”

标签: kubernetes pytorch minikube kubeflow serving


【解决方案1】:

事实证明,我的本地 docker 注册表在 kubernetes 中不可见。 kubectl get events 显示 InternalError "无法获取图像..."

【讨论】:

    猜你喜欢
    • 2021-08-20
    • 1970-01-01
    • 1970-01-01
    • 2013-02-13
    • 2012-07-11
    • 1970-01-01
    • 2023-01-13
    • 1970-01-01
    • 2011-07-28
    相关资源
    最近更新 更多