如何计算R中随机森林回归模型的置信水平

Question

我在R中使用随机森林(RF)包,目的是预测蛋白质之间的距离(RF的回归模型)"用于同源建模目的",我获得了相当好的结果.但是,我需要有一个置信水平来对我的预测值进行排名并筛选出不良模型,所以我想知道是否有可能计算这种置信水平,或者是否有任何其他方法来衡量预测的确定性？任何建议或建议都非常感谢

Answer 1

按照本文中强调的 Jackknife 方法来获取标准错误，您可以使用包中的实现ranger：

library(ranger)
library(mlbench)
data(BostonHousing)

mdl = ranger(medv ~ .,data=BostonHousing[1:400,],keep.inbag = TRUE)

pred = predict(mdl,BostonHousing[401:nrow(BostonHousing),],type="se")

 head(cbind(pred$predictions,pred$se ))
          [,1]     [,2]
[1,] 10.673356 1.107839
[2,] 11.390374 1.102217
[3,] 12.760511 1.126945
[4,] 10.458128 1.100246
[5,] 10.720076 1.084376
[6,]  9.914648 1.102000

置信区间可估计为 1.96*se。还有一个新的包forestError可以用于randomForest对象：

library(randomForest)
library(forestError)
mdl = randomForest(medv ~ .,data=BostonHousing[1:400,],keep.inbag=TRUE)

err = quantForestError(mdl,BostonHousing[1:400,],BostonHousing[401:nrow(BostonHousing),])

head(err$estimates)
       pred     mspe       bias lower_0.05 upper_0.05
1 10.649734 15.70943 -1.5336411   2.935949   12.59486
2 11.611078 15.16339 -1.4436056   3.897293   13.55621
3 12.603938 20.92701 -0.9590869   4.890153   22.32699
4 10.650549 12.42555 -1.4188440   3.941648   12.49029
5 10.414707 29.08155 -1.1438267   2.700922   31.42272
6  9.720305 19.63286 -1.3469671   2.006520   16.43220

实际使用的方法可以参考这篇论文，