为什么我无法创建附加推理加速器的 ECS 任务定义？

Question

我想尝试将推理加速器附加到 ECS 任务。 我创建了以下 Cloudformation 模板：

{
    "Resources": {
        "Task": {
          "Type" : "AWS::ECS::TaskDefinition",
          "Properties" : {
              "ContainerDefinitions" : [
                  {
                      "Name": "TestAccelerated",
                      "Image": "xxxxxxxxxxxxx.dkr.ecr.eu-central-1.amazonaws.com/myimage",
                      "Essential": true,
                      "ResourceRequirements": [{
                          "Type": "InferenceAccelerator",
                          "Value": "eia-device-1"
                      }]
                  }
              ],
              "Cpu" : "256",
              "ExecutionRoleArn" : "arn:aws:iam::xxxxxxxxxxxxx:role/ecsTaskExecutionRole",
              "Family" : "TestService",
              "InferenceAccelerators" : [ {
                "DeviceName": "eia-device-1",
                "DeviceType": "eia1.medium"
              } ],
              "Memory" : "512",
              "NetworkMode" : "awsvpc",
              "RequiresCompatibilities" : [ "FARGATE" ],
              "TaskRoleArn" : "arn:aws:iam::xxxxxxxxxxxxx:role/ecsTaskExecutionRole"
            }
        }
    }
}

当我尝试创建堆栈时，cloudformation 失败并出现以下错误：

Invalid request provided: Create TaskDefinition: Unsupported field 'inferenceAccelerators'

但是有两件事对我来说似乎很奇怪：

• 我使用的字段有一个大写的I，而错误用小写的i提及它
• 根据the documentation，字段 InferenceAccelerators 应该是受支持的字段

我做错了什么，这是一个错误，还是由于某种原因，任务定义中确实不支持推理加速器？

Answer 1

可能是因为您使用的是 FARGATE 而 Fargate 不支持 GPU。但支持已经在 AWS 路线图上：

• AWS Fargate GPU Support: When is GPU support coming to fargate?

您可以尝试为 EC2 启动类型而不是 Fargate 重新定义您的任务定义和 ecs 服务。

更新

Amazon Elastic Inference 是 only for EC2-type ECS tasks:

使用 EC2 启动类型的 Linux 容器和任务时支持此功能。