尽管配额增加，但无法使用更多 GPU 启动 gcloud 实例

Question

使用 gcloud 套件相对较新，我无法使用更多 GPU 启动我的实例。最初添加第一个 GPU 在请求增加配额时没有问题。

但是，当我请求再次增加我的 GPU 配额以缩短模型的训练时间时，在获得批准并将另一个 GPU 分配给我的实例后，我仍然收到一条错误消息，指出我的实例无法启动，因为它超出了尽管在管理控制台中看到配额为 2，但分配的配额为 1。

控制台：

错误：

启动实例 my-fastai-instance...失败。
错误：（gcloud.compute.instances.start）超出配额“PREEMPTIBLE_NVIDIA_T4_GPUS”。限制：us-west1 地区为 1.0。

为了让额外的 GPU 与实例一起工作，我还需要进行其他更改吗？

Answer 1

很遗憾，“NVIDIA T4 GPU”和“抢占式 NVIDIA T4 GPU”之间存在区别。

“NVIDIA T4 GPU”的配额为 2，我假设“Preemptible NVIDIA T4 GPU”的配额为 1。

和以前一样，您需要按地区请求这些。

注意您应该能够立即将您的实例从请求“Preemptible NVIDIA T4 GPUs”切换到“NVIDIA T4 GPUs”