Theano 很少使用 GPU答案

【问题标题】：Theano Rarely Using GPUTheano 很少使用 GPU
【发布时间】：2016-06-23 00:56:16
【问题描述】：

刚开始使用 Theano 和我的 GTX 960，但在训练网络（特别是循环回归）时，GPU 使用率会在不到一秒的时间内飙升，在几分钟内可能会飙升两到三倍。有没有办法强制它一直使用 GPU？

似乎要花很长时间才能获得很少的数据。

【问题讨论】：

【解决方案1】：

您的代码中实际发生的情况是，大部分时间都花在了将数据传入和传出 GPU 上，但任何 GPU 监视器都会显示 GPU 在这段时间内“没有被使用”，即使它是什么正在做的是加载数据。除了了解如何以及何时将数据加载到 GPU 上之外，您无法避免这样做。您所描述的尖峰是完全正常的——即 GPU 实际进行计算的时候。你无能为力！

【讨论】：

在您所描述的这种情况下，数据传输占主导地位的计算时间，首先在 CPU 上进行训练可能会更快。
不一定——您仍然需要将数据放到您的 GPU 上。花费时间最长的事情是从磁盘读取文件，然后将它们放到板上需要的物理位置。
我来自 MatLab NN 背景，几乎可以立即将数据加载到 GPU 中没有问题。我不怀疑分钟延迟是由于必须将 1.5Mb 的数据从 RAM 复制到我的 GPU...
在这种情况下，您是否有一个最小的代码示例可以重现您的问题？如果可以的话，能不能用代码更新一下你原来的帖子，我去看看。