Dur*_*man 3 python machine-learning neural-network scikit-learn cross-validation
首先是我的设置:X 是我的特征表。它有 150 000 个特征和 96 个样本。所以有 150 000 列和 96 行。
y 是我的目标表。它有 4 个标签,当然还有 96 个样品。所以 4x96(列 x 行)。
分成训练数据和测试数据后,我使用 MLPRegressor。基于 Sci-kit 的文档,它是一个原生的多输出回归器。因此我可以使用它通过 150 000 个特征的新样本来预测我的四个所需输出值。我的代码:
mlp = MLPRegressor(hidden_layer_sizes=(2000, 2000), solver= 'lbfgs', max_iter=100)
mlp.fit(X_train,y_train)
Run Code Online (Sandbox Code Playgroud)
然后我使用交叉验证。
cross_validation.cross_val_score(mlp, X, y, scoring='r2')
Run Code Online (Sandbox Code Playgroud)
输出是一个包含 3 个条目的列表(参数 cv=3)。我真的不明白我的 4 个标签是如何由这 3 个值表示的。我期望的格式如下:标签 1: 3 个条目,标签 2: 3 个条目,标签 3 和 4 也相同。因此,对于不同的分割,我将所有标签的 R^2 值三次获取测试和训练数据。
我错过了什么吗?我需要使用多输出回归器吗? (请参阅此处的文档)
这里是交叉验证的文档。
谢谢。
首先,如果您实际上正在使用cross_validation.cross_val_score()
,那么您应该将其替换为model_selection.cross_val_score()
。模块cross_validation
已被弃用并从最新版本的 scikit 中删除。
现在来解释为什么您只获得所有输出的单个分数,而不是单个条目的分数,因为这就是记分器的默认值的设置方式。
\n\n您已使用此处记录的\'r2\'
评分。在这种情况下,如果输入是多输出(如您的情况),则可以使用以下选项来更改结果
\n\n\n多输出 : \n 定义多个输出分数的聚合。类似数组的值\n定义用于平均分数的权重。默认为 \xe2\x80\x9cuniform_average\xe2\x80\x9d。
\n\n\xe2\x80\x98raw_values\xe2\x80\x99 :在多输出输入的情况下返回完整的分数集。
\n\n\xe2\x80\x98uniform_average\xe2\x80\x99 :所有输出的分数以统一的权重进行平均。
\n\n\xe2\x80\x98variance_weighted\xe2\x80\x99 :对所有输出的分数进行平均,并按每个单独输出的方差进行加权。
\n
你会看到默认值是\'uniform_average\'
,它只是对所有输出进行平均以获得一个值,这就是您所得到的。