完成训练作业并创建端点后如何在 AWS SageMaker 中部署图像分类模型

Question

我已经使用内置图像分类模型训练了一个模型，通过带有 lst 文件的原始图像对两个手机模型进行分类。（例如：Iphone6splus 和 Iphone7plus） 所以类数是 2，我使用的数据集数是 1600 张图像，每个类 800 个。

之后，我使用来自已完成的制革工作的工件数据在控制台中创建了终点。

为了部署模型测试准确率，我需要使用juputer notebook吗？

import json
import numpy as np
import boto3
runtime = boto3.Session().client(service_name='sagemaker-runtime')
# set the object categories array
object_categories = ['class1','class0'}
# Load the image bytes
img = open('xxxfolder/xxx.jpg', 'rb').read()

# Call your model for predicting which object appears in this image.
response = runtime.invoke_endpoint(
EndpointName=endpoint_name, 
ContentType='application/x-image', 
Body=bytearray(img)
)
# read the prediction result and parse the json
result = response['Body'].read()
result = json.loads(result)

# which category has the highest confidence?
pred_label_id = np.argmax(result)

print( “%s (%f)” % (object_categories[pred_label_id], result[pred_label_id] ) 
)

这是获取结果需要参考的示例代码吗？

Answer 1

当您创建 Sagemaker 端点时，您已经部署了模型。创建端点后，我们可以创建一个 Lambda 函数来使用您的模型。

请注意，您可以从任何地方调用您的模型，但使用带有 Lambda 函数的 API 网关可以让您通过 HTTP POST 进行调用。如果您的想法只是为了测试您部署的模型，最好使用 notebook，但如果您想在真实的生产场景中进行测试，我建议您使用 Lambda + API Gateway 解决方案（添加 Cognito 进行安全验证）。

In this AWS tutorial您可以学习如何使用 AWS Lambda 和 API Gateway 通过 HTTP POST 调用您的模型。

另一个选项，正如Thales Minussi 评论的那样，是直接调用您的端点（只要调用是v4 signed），如果调用太多，这将大大降低成本。