最快的 GZIP 实用程序

Dev*_*tor 18 linux compression gzip

我正在寻找最快gzip(或 zip)的实用程序。我有一个 LVM 卷,其中 95% 存在于空白中0,因此压缩非常容易。我正在寻找最快的解决方案,并且除了0's之外并不真正关心压缩。

我知道gzip -1(与 相同gzip --fast)但想知道是否有更快的方法。

谢谢。

编辑: 经过一些测试,我比较了gzip -1,lzop -1pigz -1彼此并得出以下结果:

猪:

time dd if=/dev/VPS/snap | pigz -1 | ssh backup-server "dd of=/home/backupvps/snap.pigz"

104857600+0 records in
104857600+0 records out
53687091200 bytes (54 GB) copied, 2086.87 seconds, 25.7 MB/s
7093985+266013 records in
7163950+1 records out
3667942715 bytes (3.7 GB) copied, 2085.75 seconds, 1.8 MB/s

real    34m47.147s
Run Code Online (Sandbox Code Playgroud)

LZOP:

time dd if=/dev/VPS/snap | lzop -1 | ssh backup-server "dd of=/home/backupvps/snap.lzop"

104857600+0 records in
104857600+0 records out
53687091200 bytes (54 GB) copied, 1829.31 seconds, 29.3 MB/s
7914243+311979 records in
7937728+1 records out
4064117245 bytes (4.1 GB) copied, 1828.08 seconds, 2.2 MB/s

real    30m29.430s
Run Code Online (Sandbox Code Playgroud)

邮编:

time dd if=/dev/VPS/snap | gzip -1 | ssh backup-server "dd of=/home/backupvps/snap_gzip.img.gz

104857600+0 records in
104857600+0 records out
53687091200 bytes (54 GB) copied, 1843.61 seconds, 29.1 MB/s
7176193+42 records in
7176214+1 records out
3674221747 bytes (3.7 GB) copied, 1842.09 seconds, 2.0 MB/s

real    30m43.846s
Run Code Online (Sandbox Code Playgroud)

编辑2

这与我最初的问题有些无关,但是使用time dd if=/dev/VPS/snap | lzop -1 | ssh backup-server "dd of=/home/backupvps/snap.lzop"(块大小更改为 16M)时间减少到real 18m22.442s!

小智 23

虽然我个人还没有使用它,但我认为使用并行 gzip可以加快速度:

pigz 代表 gzip 的并行实现,是 gzip 的全功能替代品,它在压缩数据时充分利用了多个处理器和多个内核。

  • 该网站看起来有点奇怪。但是不要被这个愚弄,pigz 是由 gzip 和 zlib 的开发者之一 Mark Adler 编写的。 (3认同)

Ign*_*ams 14

如果您不介意放弃 DEFLATE,lzop那么 LZO 的实现有利于速度而不是压缩比。


Apa*_*che 7

您可以尝试 Parallel Gzip(Pascal 将其链接)或 Parallel BZIP。
理论上,BZIP 更适合文本,因此您可能想尝试pbzip


归档时间:

查看次数:

17325 次

最近记录:

14 年,1 月 前