运行时错误：CUDA 内存不足。尝试分配

Question

我正在尝试使用 jupyter 笔记本运行 pytorch 代码，但出现此错误

RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0; 2.00 GiB total capacity; 1.23 GiB already allocated; 18.83 MiB free; 1.25 GiB reserved in total by PyTorch)

我已经找到答案了。最重要的是，只是减少批量大小。我尝试将批量大小从 20 减少到 10 到 2 和 1。现在仍然无法运行代码

我的 GPU 是 Quadro p620

Answer 1

您可以通过以下方式释放现有内存

nvidia-smi

记下该进程并使用

sudo kill -9 <pid>

PS：杀掉之前请先查一下进程！当我尝试运行大型模型并且停止后它仍然继续运行时，这个解决方案对我有用。不要杀死正在进行训练的模型！