在 Google Colaboratory 中，有没有办法为更大的 GPU 付费？ [关闭]答案

【问题标题】：In Google Colaboratory, is there a way to pay for a larger GPU? [closed]在 Google Colaboratory 中，有没有办法为更大的 GPU 付费？ [关闭]
【发布时间】：2018-07-31 01:01:29
【问题描述】：

我正在测试 Colaboratory 的 GPU 支持。 GPU 的 RAM 有限。

name: "/device:CPU:0" 
device_type: "CPU" 
memory_limit: 268435456 locality { } 
incarnation: 14648174833476954761, 
name: "/device:GPU:0" 
device_type: "GPU" 
memory_limit: 356515840 
locality { bus_id: 1 } 
incarnation: 11566567776783368174 
physical_device_desc: "device: 0, 
name: Tesla K80, 
pci bus id: 0000:00:04.0, 
compute capability: 3.7"]

GPU显存的大小是356MB，我想知道是否有办法获得付费版本来增加GPU显存？也许这已经是 Google 付费产品的一部分了，有人知道这个产品是什么吗？

【问题讨论】：

谷歌数据实验室？
@BenAubin 看起来像。 UI/UX 是不同的，所以只是想知道它们是否是为不同的目的而设计的，或者它们是否会在某一时刻合并在一起。从信息来看，Collaboratory 似乎是严格意义上的游乐场/教育机构，如果您想要更大的东西，您会被要求切换到 Datalab。
根据我的经验，Datalab 更适合大型项目，但获得 gpu 的起价为 300 美元/月（虽然它是完整的 k80）

标签： gpu google-colaboratory

【解决方案1】：

目前无法通过 Colab 请求更大的 GPU。

【讨论】：

这实际上似乎是可能的并且是受支持的功能：research.google.com/colaboratory/local-runtimes.html
@Herbert 仅当您使用本地运行时时，您才会将自己的硬件与 Colab 接口一起使用。
@johan 没错，但您自己的硬件可以在 AWS 上租用。
@Herbert 不错！没想到。

【解决方案2】：

Colab 中的 GPU 不共享。每个用户都可以完全访问具有 12G 内存的 k80。

看到 356MB 的可用 GPU 内存几乎总是表明您创建了一个没有 allow_growth = True 选项的 TensorFlow 会话。看： https://www.tensorflow.org/guide/using_gpu#allowing_gpu_memory_growth

如果您不设置此选项，默认情况下，TensorFlow 将在创建会话时保留几乎所有 GPU 内存。

好消息：从本周开始，Colab 现在默认设置此选项，因此当您在 Colab 上使用多个笔记本时，您应该会看到增长速度要低得多。而且，您还可以通过从运行时菜单中选择“管理会话”来检查每个笔记本的 GPU 内存使用情况。

选择后，您将看到一个对话框，其中列出了所有笔记本以及每个笔记本正在消耗的 GPU 内存。要释放内存，您也可以从此对话框终止运行时。

【讨论】：

【解决方案3】：

Google 推出了 colab 专业版，可以使用更好的 GPU - https://colab.research.google.com/signup

【讨论】：

是的，我正在使用它，它疯狂地用于深度学习等。通常它只适用于美国，但使用信用卡你可以在任何地方使用它，你只需要一个美国邮政编码即可注册（只是谷歌）.. 每月 10 美元很棒。您几乎可以一直使用 telsa p100。它每 24 小时重置一次，但如果您对此没有任何疑问，我认为这很重要