wak*_*ake 2 sorting performance r matrix apply
我有一个有几百万行和大约40列的矩阵.
我想对每行中的元素进行排序,使其值减小.因此,每行具有最高值的元素应该在第一列中.
为此,我可以使用该apply功能.例如:
set.seed(1)
mm <- replicate(10, rnorm(20)) #random matrix with 20 rows and 10 columns
mm.sorted <- apply(mm,1,sort,decreasing=T)
Run Code Online (Sandbox Code Playgroud)
但是当我为一个非常大的矩阵做这个时,这种方法需要很长时间.
我想知道是否有不同的方法来加快行中元素的排序.
使用并行包来加快速度
library(parallel)
data<-matrix(rnorm(1000000*40,0,10),ncol=40)
cl <- makeCluster(8) # 8 is the number of CPU
system.time({
parApply(cl,data,1,sort,decreasing=T)
})
user system elapsed
9.68 10.11 29.87
stopCluster(cl)
Run Code Online (Sandbox Code Playgroud)
你可以使用包data.table:
set.seed(1)
mm <- matrix(rnorm(1000000*40,0,10),ncol=40)
library(data.table)
system.time({
d <- as.data.table(mm)
d[, row := .I]
d <- melt(d, id.vars = "row") #wide to long format
setkey(d, row, value) #sort
d[, variable := paste0("V", ncol(mm):1)] #decreasing order
#back to wide format and coerce to matrix
msorted <- as.matrix(dcast(d, row ~ variable)[, row := NULL])
})
#user system elapsed
#4.96 0.59 5.62
Run Code Online (Sandbox Code Playgroud)
如果你可以将它保存为长格式data.table(即跳过最后一步),我的机器上大约需要2秒钟.
为了比较,@ qjgods在我的机器上回答的时间:
#user system elapsed
#3.71 2.08 8.81
Run Code Online (Sandbox Code Playgroud)
请注意,使用apply(或其并行版本)转置矩阵.
| 归档时间: |
|
| 查看次数: |
839 次 |
| 最近记录: |