如何在R中执行随机森林/交叉验证

Question

我无法找到一种在我试图生成的回归随机森林模型上执行交叉验证的方法.

所以我有一个包含1664个解释变量(不同的化学特性)的数据集,有一个响应变量(保留时间).我正在尝试生成回归随机森林模型,以便能够根据其保留时间预测某些物质的化学特性.

ID  RT (seconds)    1_MW    2_AMW   3_Sv    4_Se
4281    38  145.29  5.01    14.76   28.37
4952    40  132.19  6.29    11  21.28
4823    41  176.21  7.34    12.9    24.92
3840    41  174.24  6.7 13.99   26.48
3665    42  240.34  9.24    15.2    27.08
3591    42  161.23  6.2 13.71   26.27
3659    42  146.22  6.09    12.6    24.16

这是我的表格的一个例子.我想基本上将RT映射到1_MW等(最多1664个变量),因此我可以找到哪些变量很重要而哪些变量不重要.

我做:-

r = randomForest(RT..seconds.~., data = cadets, importance =TRUE, do.trace = 100)
varImpPlot(r)

它告诉我哪些变量很重要,哪些变量不重要,这很好.但是,我希望能够对我的数据集进行分区,以便我可以对其进行交叉验证.我找到了一个在线教程,解释了如何做到这一点,但是对于分类模型而不是回归.

我明白你这样做: -

k = 10
n = floor(nrow(cadets)/k)
i = 1
s1 = ((i-1) * n+1)
s2 = (i * n)
subset = s1:s2

定义要执行的交叉折叠的数量,每个折叠的大小,以及设置子集的起始值和结束值.但是,我不知道以后要做什么.我被告知要循环,但老实说我不知道​​该怎么做.我也不知道如何将验证集和测试集绘制到同一图表上以描绘准确度/错误的级别.

如果你能帮助我,我会非常感激,谢谢!

Answer 1

从来源:

out of of-bag(oob)错误估计

在随机森林中,不需要交叉验证或单独的测试集来获得测试集错误的无偏估计.在运行期间内部估计......

特别是,predict.randomForest如果newdata没有给出,则返回袋外预测.

Answer 2

正如topchef 指出的那样,交叉验证不是防止过度拟合的必要条件.这是随机森林算法的一个很好的特性.

听起来您的目标是功能选择,交叉验证仍然可用于此目的.看一下rfcv()randomForest包中的函数.文档指定数据框和向量的输入,因此我将首先创建包含数据的文档.

set.seed(42)
x <- cadets
x$RT..seconds. <- NULL
y <- cadets$RT..seconds.

rf.cv <- rfcv(x, y, cv.fold=10)

with(rf.cv, plot(n.var, error.cv))