如何在 Sci-kit 中使用多输出回归器的交叉验证?

Dur*_*man 3 python machine-learning neural-network scikit-learn cross-validation

首先是我的设置:X 是我的特征表。它有 150 000 个特征和 96 个样本。所以有 150 000 列和 96 行。

y 是我的目标表。它有 4 个标签,当然还有 96 个样品。所以 4x96(列 x 行)。

分成训练数据和测试数据后,我使用 MLPRegressor。基于 Sci-kit 的文档,它是一个原生的多输出回归器。因此我可以使用它通过 150 000 个特征的新样本来预测我的四个所需输出值。我的代码:

mlp = MLPRegressor(hidden_layer_sizes=(2000, 2000), solver= 'lbfgs', max_iter=100)
mlp.fit(X_train,y_train)
Run Code Online (Sandbox Code Playgroud)

然后我使用交叉验证。

cross_validation.cross_val_score(mlp, X, y, scoring='r2')
Run Code Online (Sandbox Code Playgroud)

输出是一个包含 3 个条目的列表(参数 cv=3)。我真的不明白我的 4 个标签是如何由这 3 个值表示的。我期望的格式如下:标签 1: 3 个条目,标签 2: 3 个条目,标签 3 和 4 也相同。因此,对于不同的分割,我将所有标签的 R^2 值三次获取测试和训练数据。

我错过了什么吗?我需要使用多输出回归器吗? (请参阅此处的文档)

这里交叉验证的文档。

谢谢。

Viv*_*mar 5

首先,如果您实际上正在使用cross_validation.cross_val_score(),那么您应该将其替换为model_selection.cross_val_score()。模块cross_validation已被弃用并从最新版本的 scikit 中删除。

\n\n

现在来解释为什么您只获得所有输出的单个分数,而不是单个条目的分数,因为这就是记分器的默认值的设置方式。

\n\n

您已使用此处记录的\'r2\'评分。在这种情况下,如果输入是多输出(如您的情况),则可以使用以下选项来更改结果

\n\n
\n

多输出 : \n 定义多个输出分数的聚合。类似数组的值\n定义用于平均分数的权重。默认为 \xe2\x80\x9cuniform_average\xe2\x80\x9d。

\n\n

\xe2\x80\x98raw_values\xe2\x80\x99 :在多输出输入的情况下返回完整的分数集。

\n\n

\xe2\x80\x98uniform_average\xe2\x80\x99 :所有输出的分数以统一的权重进行平均。

\n\n

\xe2\x80\x98variance_weighted\xe2\x80\x99 :对所有输出的分数进行平均,并按每个单独输出的方差进行加权。

\n
\n\n

你会看到默认值是\'uniform_average\',它只是对所有输出进行平均以获得一个值,这就是您所得到的。

\n