Sagemaker 多模型是否支持批量转换？

Question

Sagemaker documentation 解释说我们可以创建一个可以支持多个模型的端点。但是，我找不到有关如何将同一模型用于批量转换的文档。 多模型端点中使用的同一模型是否也可以用于批量转换？

Answer 1

在多模型端点中使用的同一模型是否也可以用于批量转换？

目前没有。

但是，您可以使用推理管道模型来支持端点或运行批量转换作业：https://docs.aws.amazon.com/sagemaker/latest/dg/inference-pipelines.html