在 cpu 中加载 gpu 训练的模型答案

【问题标题】：loading gpu trained models in cpu在 cpu 中加载 gpu 训练的模型
【发布时间】：2022-06-14 14:20:53
【问题描述】：

目前我不能使用 GPU，但我必须在 CPU 中加载几个与 BERTopic 相关的 gpu 模型。我尝试按照建议添加 map.location=torch.device("cpu") 但没有结果。我不断收到相同的错误：尝试反序列化 CUDA 设备上的对象，但 torch.cuda.is_available() 为 False。如果您在仅 CPU 的机器上运行，请使用带有 map_location=torch.device('cpu') 的 torch.load 将您的存储映射到 CPU。我该如何解决？

【问题讨论】：

标签： python gpu

【解决方案1】：

model = torch.load(path/to/the/gpu/model.pt, ,map_location=torch.device('cpu'))

torch.save(model, "GPUToCPU.pt")

In,
:~$ pip show torch
Name: torch
Version: 1.9.0

Then use as usual:
    model = torch.load('path/to/the/new/GPUToCPU.pt')['model'].cpu().float() 
    results = model(im)
    prob = F.softmax(results, dim=1)  # probabilities

【讨论】：