使用 AWS Sagemaker Boto 创建多模型终端节点

Question

我创建了 2 个不太复杂的模型并将它们重命名并将它们放置在 S3 存储桶中的相同位置。

我需要创建一个多模型端点，以便 2 个模型具有相同的端点。 我使用的模型是 AWS 内置的线性学习模型类型回归器。

我不知道应该如何部署它们。

Answer 1

SageMaker 的线性学习器算法容器当前未实现 multi-model endpoints 的要求。您可以通过AWS Forums 请求支持。

您还可以构建自己的线性学习器算法版本。要将模型部署到多模型端点，您需要构建自己的容器以满足多模型端点的要求并实现您自己的线性学习器算法版本。此示例笔记本提供了一个示例，说明如何创建为 MxNet 模型提供服务的多模型兼容容器，但您可以对其进行调整以实现线性学习器算法：

https://github.com/awslabs/amazon-sagemaker-examples/blob/master/advanced_functionality/multi_model_bring_your_own/multi_model_endpoint_bring_your_own.ipynb