Rei*_*iso 3 regression r training-data hyperparameters r-caret
我想知道是否可以在预定义的网格中使用随机搜索。例如,我的网格有alphaand lambdaforglmnet方法。alpha介于 0 和 1 之间,lambda介于 -10 到 10 之间。我想使用随机搜索 5 次来随机尝试此范围内的点。我为网格搜索编写了以下代码,它工作正常,但我无法修改它以进行有限的随机搜索。
rand_ctrl <- trainControl(method = "repeatedcv", repeats = 5,
search = "random")
grid <- expand.grid(alpha=seq(0,1,0.1),lambda=seq(-10,10,1)) # I think this should be modified
rand_search <- train(Response ~ ., data = train_dat,
method = "glmnet",
## Create 20 random parameter values
metric = "RMSE",
tuneLength = 5,
preProc = c("scale"),
tuneGrid = grid,
trControl = rand_ctrl)
Run Code Online (Sandbox Code Playgroud)
一种方法是定义一个网格并用于sample选择几个随机行:
set.seed(1)
samp <- sample(1:nrow(grid), 5)
grid[samp,]
#output
alpha lambda
62 0.6 -5
86 0.8 -3
132 1.0 1
208 0.9 8
46 0.1 -6
Run Code Online (Sandbox Code Playgroud)
然后使用这个子集作为tuneGrid参数
另一种方法是使用runif它从由下限和上限定义的均匀分布生成随机数:
set.seed(1)
data.frame(alpha = runif(5, 0 , 1),
lambda = runif(5, -10, 10))
#output
alpha lambda
1 0.2655087 7.967794
2 0.3721239 8.893505
3 0.5728534 3.215956
4 0.9082078 2.582281
5 0.2016819 -8.764275
Run Code Online (Sandbox Code Playgroud)
并将其作为tuneGrid参数提供。
第二种方法不是从网格中选取随机元素,而是在定义的最小值和最大值之间选取随机数。
| 归档时间: |
|
| 查看次数: |
1423 次 |
| 最近记录: |