如何在 AWS SageMaker 中部署自定义模型？答案

【问题标题】：How to deploy a custom model in AWS SageMaker?如何在 AWS SageMaker 中部署自定义模型？
【发布时间】：2020-06-25 08:16:51
【问题描述】：

我有一个自定义机器学习预测模型。我还有一个用户定义的 Estimator 类，它使用 Optuna 进行超参数调整。我需要将此模型部署到 SageMaker，以便从 lambda 函数调用它。

我在为模型和估算器创建容器的过程中遇到了麻烦。

我知道 SageMaker 有一个可用于 Optuna 的 scikit learn 容器，但我如何利用它来包含我自己的 Estimator 类中的函数？此外，模型是传递给此 Estimator 类的参数之一，那么如何将其定义为单独的训练作业以使其成为 Endpoint？

这是调用 Estimator 类和模型的方式：

sirf_estimator = Estimator(
    SIRF, ncov_df, population_dict[countryname],
    name=countryname, places=[(countryname, None)],
    start_date=critical_country_start
    )
sirf_dict = sirf_estimator.run()

地点：

型号名称：SIRF
清理数据集：ncov_df

如果有人可以调查一下，那将非常有帮助，非常感谢！

【问题讨论】：

标签： amazon-web-services machine-learning deployment scikit-learn amazon-sagemaker

【解决方案1】：

SageMaker 推理端点当前依赖于基于 Docker 映像的接口。在基础级别，您可以设置运行 Web 服务器并响应 AWS 所需端口上的端点的 Docker 映像。本指南将向您展示如何操作：https://docs.aws.amazon.com/sagemaker/latest/dg/your-algorithms-inference-code.html。

这是一项烦人的工作。如果您使用的是众所周知的框架，他们有一个容器库，其中包含一些您可以重用的样板代码：https://github.com/aws/sagemaker-containers。您也许可以从那里重用一些代码，但要对其进行自定义。

或者根本不使用 SageMaker 推理端点 :) 如果您的模型可以适应 AWS Lambda 的大小/内存限制，这是一个更简单的选择！

【讨论】：