R在RFE(递归特征消除)中使用我自己的模型来选择重要特征

clo*_*tes 1 r svm feature-selection rfe r-caret

使用 RFE,您可以获得特征的重要性等级,但现在我只能使用包内的模型和参数,例如:lmFuncs(linear model),rfFuncs(random forest) 似乎

caretFuncs
Run Code Online (Sandbox Code Playgroud)

可以对自己的模型和参数做一些自定义设置,但是我不知道细节,正式文档没有给出细节,我想在这个RFE过程中应用svm和gbm,因为这是我当前使用的模型训练,有人知道吗?

Mar*_*ich 5

我试图根据文档重新创建工作示例。您正确识别了 的使用caretFuncs,然后您可以在rfe调用中设置模型参数(您也可以定义trainControl对象等)。

# load caret
library(caret)

# load data, get target and feature column labels
data(iris)
col_names = names(iris);target = "Species"
feature_names = col_names[col_names!=target]

# construct rfeControl object
rfe_control = rfeControl(functions = caretFuncs, #caretFuncs here
                     method="cv",
                     number=5)

# construct trainControl object for your train method 
fit_control = trainControl(classProbs=T,
                        search="random")

# get results
rfe_fit = rfe(iris[,feature_names], iris[,target],
             sizes = 1:4,
             rfeControl = rfe_control,
             method="svmLinear",
             # additional arguments to train method here
             trControl=fit_control)
Run Code Online (Sandbox Code Playgroud)

如果您想更深入地研究这个问题,您可能需要访问下面的链接。

rfe包含基本代码片段的文档:https :
//www.rdocumentation.org/packages/caret/versions/6.0-80/topics/rfe

caret文档rfe:https :
//topepo.github.io/caret/recursive-feature-elimination.html

希望这可以帮助!