Geforce Nvidia MX130 上的 GPU 运行时错误

Question

我正在尝试使用 BERT a 微调 Spacy NER 模型

#Train the data
!python -m spacy train -g 0 config_spacy_bert.cfg --output ./output --paths.train ./train.spacy --paths.dev ./train.spacy

配置文件中的批量大小为 2，我收到一个错误

RuntimeError: CUDA out of memory. Tried to allocate 18.00 MiB (GPU 0; 1.96 GiB total capacity; 958.13 MiB already allocated; 11.25 MiB free; 978.00 MiB reserved in total by PyTorch)

如何消除这个错误

Answer 1

您没有足够的 GPU 内存。您需要获得更大的 GPU，或者不使用 BERT，或者使用更小的模型。

建议使用 spaCy 的 GPU 内存大小为 10GB；有时您可以使用 8GB 或更少的空间，但看起来您只有 2GB，这还不够。