你能从 sklearn 网格搜索 (GridSearchCV) 中获得所有估计器吗？

Question

我最近使用 测试了许多超参数组合sklearn.model_selection.GridSearchCV。我想知道是否有一种方法可以调用在此过程中接受过培训的所有先前估算器。

search = GridSearchCV(estimator=my_estimator, param_grid=parameters)
# `my_estimator` is a gradient boosting classifier object
# `parameters` is a dictionary containing all the hyperparameters I want to try

我知道我可以使用 来调用最好的估计器search.best_estimator_，但我也想调用所有其他估计器，以便我可以测试他们的个人性能。

搜索大约花了 35 个小时才完成，所以我真的希望我不必再重复一遍。

注意：这是几年前提出的问题（此处），但sklearn此后已更新多次，现在的答案可能有所不同（我希望）。

Answer 1

不，除了（可选，但默认）在整个训练集上训练的最后一个模型（您的best_estimator_. 特别是当模型存储大量数据（例如 KNN）时，保存所有拟合的估计量将非常消耗内存，并且通常没有多大用处。（cross_validate确实有一个参数return_estimator，但超参数调优器没有。如果您有令人信服的理由添加它，可能不需要太多工作，您可以在 sklearn 上打开 GitHub 问题。）

但是，您确实拥有cv_results_记录所有测试估计器分数的属性。这通常足以用于检查目的。