在Google Colaboratory中，有没有办法购买更大的GPU？

Question

我正在测试对Colaboratory的GPU支持。GPU的内存有限。

name: "/device:CPU:0" 
device_type: "CPU" 
memory_limit: 268435456 locality { } 
incarnation: 14648174833476954761, 
name: "/device:GPU:0" 
device_type: "GPU" 
memory_limit: 356515840 
locality { bus_id: 1 } 
incarnation: 11566567776783368174 
physical_device_desc: "device: 0, 
name: Tesla K80, 
pci bus id: 0000:00:04.0, 
compute capability: 3.7"]

The size of the GPU memory is 356MB, I'm wondering if there is a way to get a paid version to increase the GPU memory? Perhaps this is already part of a paid google product, does anyone know what the product is?

Answer 1

不共享Colab中的GPU。每个用户都可以完全访问具有12G内存的k80。

看到356MB的可用GPU内存几乎总是表明您创建了一个TensorFlow会话，而没有该allow_growth = True选项。请参阅：https： //www.tensorflow.org/guide/using_gpu#allowing_gpu_memory_growth

如果您未设置此选项，则默认情况下，在创建会话时，TensorFlow将保留几乎所有GPU内存。

好消息：截止到本周，Colab现在默认设置了此选项，因此当您在Colab上使用多个笔记本时，您应该看到增长率大大降低。而且，您还可以通过在运行时菜单中选择“管理会话”来检查每个笔记本的GPU内存使用情况。

选择后，您将看到一个对话框，其中列出了所有笔记本以及每个笔记本所消耗的GPU内存。要释放内存，您也可以从此对话框终止运行时。