如何在caret包中的指定网格中随机搜索?

Rei*_*iso 3 regression r training-data hyperparameters r-caret

我想知道是否可以在预定义的网格中使用随机搜索。例如,我的网格有alphaand lambdaforglmnet方法。alpha介于 0 和 1 之间,lambda介于 -10 到 10 之间。我想使用随机搜索 5 次来随机尝试此范围内的点。我为网格搜索编写了以下代码,它工作正常,但我无法修改它以进行有限的随机搜索。

rand_ctrl <- trainControl(method = "repeatedcv", repeats = 5,
                          search = "random")
grid <- expand.grid(alpha=seq(0,1,0.1),lambda=seq(-10,10,1)) # I think this should be modified
rand_search <- train(Response ~ ., data = train_dat,
                     method = "glmnet",
                     ## Create 20 random parameter values
                     metric = "RMSE",
                     tuneLength = 5,
                     preProc = c("scale"),
                     tuneGrid = grid,
                     trControl = rand_ctrl)
Run Code Online (Sandbox Code Playgroud)

mis*_*use 6

一种方法是定义一个网格并用于sample选择几个随机行:

set.seed(1)
samp <- sample(1:nrow(grid), 5)
grid[samp,]
#output
    alpha lambda
62    0.6     -5
86    0.8     -3
132   1.0      1
208   0.9      8
46    0.1     -6
Run Code Online (Sandbox Code Playgroud)

然后使用这个子集作为tuneGrid参数

另一种方法是使用runif它从由下限和上限定义的均匀分布生成随机数:

set.seed(1)
data.frame(alpha = runif(5, 0 , 1),
           lambda = runif(5, -10, 10))
#output
      alpha    lambda
1 0.2655087  7.967794
2 0.3721239  8.893505
3 0.5728534  3.215956
4 0.9082078  2.582281
5 0.2016819 -8.764275
Run Code Online (Sandbox Code Playgroud)

并将其作为tuneGrid参数提供。

第二种方法不是从网格中选取随机元素,而是在定义的最小值和最大值之间选取随机数。