实例化和关闭 Kubeflow pod

【问题标题】：Instantiate and Shutdown Kubeflow pods实例化和关闭 Kubeflow pod
【发布时间】：2021-05-07 01:14:58
【问题描述】：

我正在学习 Kubernetes 和 Kubeflow，有一些我想做的事情，我在互联网上没有找到任何明确的答案，如果它可能或我应该采取的路线。

在训练我的机器学习模型时，我想使用大型机器在云上训练我的模型，但之后我只想在小型实例上提供模型。我希望大型机器仅在训练步骤中使用，然后关闭。用 Kubeflow 可以做到这一点吗？如果是这样，我将如何去做？

抱歉这个新手问题，我还在学习这个平台。

【问题讨论】：

标签： kubernetes cloud kubernetes-pod kubeflow kubeflow-pipelines

【解决方案1】：

一种方法是拥有两个独立的集群。一个用于训练的大集群和另一个用于服务的较小集群。您可以在更大的集群上使用 Kubeflow Pipelines，训练模型，然后将模型文件放在分布式存储中。在较小的集群上，您只需运行 KFServing standalone 并将模型二进制文件从分布式存储加载到您的推理服务中。

【讨论】：

您还可以拥有一个具有不同功能的不同节点组并具有污点的单个集群，例如，您的训练作业应该转到 GPU 实例的节点组，而您的服务 pod 应该转到仅 CPU 的节点组。