【问题标题】:With AWS SageMaker, is it possible to deploy a pre-trained model using the sagemaker SDK?借助 AWS SageMaker,是否可以使用 sagemaker 开发工具包部署预训练模型?
【发布时间】:2019-02-28 01:07:50
【问题描述】:

我正在尝试避免将现有模型训练过程迁移到 SageMaker,并避免创建自定义 Docker 容器来托管我们训练的模型。

我希望将我们现有的经过训练的模型注入 AWS 通过 sagemaker-python-sdk 提供的预构建 scikit 学习容器中。我发现的所有示例都需要先训练模型,这会在 SageMaker 中创建模型/模型配置。然后使用 deploy 方法进行部署。

是否可以为 deploy 方法提供经过训练的模型并将其托管在 AWS 提供的预构建 scikit learn 容器中?

供参考,the examples 我见过遵循以下操作顺序:

  1. 创建sagemaker.sklearn.estimator.SKLearn 的实例并提供训练脚本
  2. 调用fit方法就可以了
  3. 这会在 SageMaker 中创建模型/模型配置
  4. SKLearn 实例上调用 deploy 方法,该方法会自动获取在步骤 2/3 中创建的模型并将其部署在预构建的 scikit learn 容器中作为 HTTPS 端点。

【问题讨论】:

    标签: python amazon-web-services scikit-learn amazon-sagemaker


    【解决方案1】:

    是的,您可以将现有模型导入 SageMaker。

    对于 scikit-learn,您将使用 SKLearnModel() 对象从 S3 加载到模型并在 SageMaker 中创建它。然后,您可以照常部署它。

    https://sagemaker.readthedocs.io/en/latest/sagemaker.sklearn.html

    这是一个基于 MXNet 的完整示例,它将为您指明正确的方向: https://github.com/awslabs/amazon-sagemaker-examples/blob/master/sagemaker-python-sdk/mxnet_onnx_superresolution/mxnet_onnx.ipynb

    【讨论】:

      【解决方案2】:

      在同一个用例上苦苦挣扎了几天。

      我们使用了 sagemaker.model.Model 类和 sagemaker.pipeline.PipelineModel

      在这里概述了我们的解决方案。

      How to handle custom transformation/ inference and requirements in sagemaker endpoints

      【讨论】:

        猜你喜欢
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 2022-07-30
        • 2021-11-11
        • 2021-02-14
        • 1970-01-01
        • 1970-01-01
        • 2020-02-08
        相关资源
        最近更新 更多