无法为 SageMaker Endpoint 定义 Auto Scaling答案

【问题标题】：Unable to Define Auto Scaling for SageMaker Endpoint无法为 SageMaker Endpoint 定义 Auto Scaling
【发布时间】：2021-06-30 11:14:13
【问题描述】：

我已经使用 Docker 容器部署了一个 AWS 端点（我关注了this）。

一切正常，但现在我需要将其投入生产并定义自动缩放策略。

我尝试了两件事：

AWS 控制台，但自动缩放按钮是灰色的出去。
here描述的方法。我的端点名称是EmbeddingEndpoint，我的变体名称是SimpleVariant。所以我的最终命令是

aws application-autoscaling put-scaling-policy \
--policy-name scalable_policy_for_embedding \
--policy-type TargetTrackingScaling \
--resource-id endpoint/EmbeddingEndpoint/variant/SimpleVariant \
--service-namespace sagemaker \
--scalable-dimension sagemaker:variant:DesiredInstanceCount \
--target-tracking-scaling-policy-configuration file://policy_config.json

但我得到了这个结果：

An error occurred (ObjectNotFoundException) when calling the PutScalingPolicy operation: 
No scalable target registered for service namespace: sagemaker, resource ID: 
endpoint/EmbeddingEndpoint/variant/SimpleVariant, scalable dimension: 
sagemaker:variant:DesiredInstanceCount

是否有人有其他解决方案，还是我没有很好地设置变量？提前谢谢你！

【问题讨论】：

标签： amazon-web-services docker scaling endpoint amazon-sagemaker

【解决方案1】：

您的sagemaker service-namespace 没有任何已注册的扩展目标。您需要先运行register-scalable-target，然后再运行put-scaling-policy。

aws application-autoscaling register-scalable-target \
    --service-namespace sagemaker \
    --scalable-dimension sagemaker:variant:DesiredInstanceCount \
    --resource-id endpoint/EmbeddingEndpoint/variant/SimpleVariant

【讨论】：