Check failed: error == cudaSuccess (2 vs. 0) out of memory

finitune  googlenet时,train未报错,test时报了,

stackflow里面的回答

1.减小mini_batch

2.减小图片大小

3.升级GPU(stackflow里面一般都是8G-12G的,别的CS的实验室好像直接就用的GTX 1080,可以考虑)

相关文章: