如何在 Google colab 中激活 GPU 计算？答案

【问题标题】：How to activate GPU computing in Google colab?如何在 Google colab 中激活 GPU 计算？
【发布时间】：2020-07-27 07:44:52
【问题描述】：

我是torch和python的大佬，

我正在尝试使用 Google COlab 在网上找到的一些机器学习代码，但出现以下错误：

---------------------------------------------------------------------------
RuntimeError                              Traceback (most recent call last)
<ipython-input-4-d4b0db6cedae> in <module>()
    295                         input_dropout=input_dropout, hidden_dropout1=hidden_dropout1,
    296                         hidden_dropout2= hidden_dropout2, label_smoothing= label_smoothing)
--> 297 experiment.train_and_eval()
    298 
    299 

2 frames
/usr/local/lib/python3.6/dist-packages/torch/cuda/__init__.py in _lazy_init()
    195                 "Cannot re-initialize CUDA in forked subprocess. " + msg)
    196         _check_driver()
--> 197         torch._C._cuda_init()
    198         _cudart = _load_cudart()
    199         _cudart.cudaGetErrorName.restype = ctypes.c_char_p

RuntimeError: cuda runtime error (100) : no CUDA-capable device is detected at /pytorch/aten/src/THC/THCGeneral.cpp:50

我知道 cude 是用于 GPU 处理的？那么我该如何解决这个问题呢？我在这个link中试验代码：

【问题讨论】：

这能回答你的问题吗？ How to install CUDA in Google Colab GPU's

标签： python torch

【解决方案1】：

您是否尝试过以下方法？

Go to Menu > Runtime > Change runtime.

Change hardware acceleration to GPU.

How to install CUDA in Google Colab GPU's

【讨论】：

好的，我试过了，但是有一条消息说要充分利用 colab，我应该尽量避免使用 GPU？另外，有没有办法改变代码不使用 GPU？
据我所知，无论您选择 CPU 还是 GPU，您的代码都保持不变。选择 GPU 后，您的代码将使用 GPU 运行，无需任何代码更改。因此，如果您只想要 CPU，最简单的方法仍然是，在下拉菜单中将其更改回 CPU。
Colab 是免费和 GPU 成本的资源。这就是为什么 Google Claboratory 说只有在使用 GPU 时才启用 GPU，否则使用 CPU 进行所有计算。

【解决方案2】：

除了上面的答案，你也可以使用谷歌的 TPU。如果您是 Colab Pro，有一个问题：除非您确实需要，否则请避免使用它们，因为 Google 会降低您下次使用该资源的优先级：

来自their official description page

Colab Pro 中的资源优先用于最近使用较少资源的订阅者，以防止少数用户垄断有限的资源。要充分利用 Colab Pro，请考虑在完成工作后关闭 Colab 选项卡，并避免在工作不需要时选择 GPU 或额外内存。这将降低您在 Colab Pro 中遇到使用限制的可能性。

我不确定普通用户是否如此。但根据我自己的经验，GPU 和 TPU 并不总是可用的。如果它们在您的编码和运行过程中变得不可用，所有之前运行/完成的单元格将再次变为“未运行”。所以你会冒一点风险。

【讨论】：