使用多个 GPU 的 GridSearchCV 中“n_jobs == 1”的含义

Question

我一直在使用带有 4 个 NVIDIA GPU 的 Keras 框架来训练 NN 模型。（数据行数：~160,000，列数：5）。现在我想通过使用 GridSearchCV 来优化它的参数。

但是，每当我尝试将 n_jobs 更改为 1 以外的其他值时，我都会遇到几个不同的错误。错误，例如

CUDA OUT OF MEMORY
Can not get device properties error code : 3

然后我阅读了这个网页，“#如果你不使用 GPU，你可以将 n_jobs 设置为 1 以外的值” http://queirozf.com/entries/scikit-learn-pipeline-examples

那么在 GridSearchCV 中使用多个 GPU 是不可能的吗？

【环境】Ubuntu 16.04 Python 3.6.0 Keras / Scikit-Learn

谢谢！

Answer 1

根据 scikit learn 中的常见问题解答 - 不支持 GPU。关联

您可以使用n_jobsCPU 内核。如果您想以最大速度运行，您可能需要使用几乎所有的内核：

import multiprocessing
n_jobs = multiprocessing.cpu_count()-1