调整顺序磁盘读取以提高性能

Sto*_*dow 6 linux io performance disk linux-kernel

我正在从磁盘中顺序读取一个大文件,并尝试在读取过程中理解 iostat 输出。

  • 文件大小:10 GB
  • 读取缓冲区:4 KB
  • 预读 (/sys/block/sda/queue/read_ahead_kb):128 KB

iostat输出如下

Device:         rrqm/s   wrqm/s     r/s     w/s    rMB/s    wMB/s avgrq-sz avgqu-sz await r_await w_await  svctm  %util
sda               0.00     0.00  833.00   14.00   103.88     0.05   251.30     6.07    5.69    2.33 205.71  1.18 100.00
Run Code Online (Sandbox Code Playgroud)

计算 I/O 请求的平均大小 =(rMB/s 除以 r/s)得出 ~ 128 KB,这是预读值。这似乎表明,虽然 read 系统调用指定了 4KB 缓冲区,但实际磁盘 I/O 是根据预读值发生的。

当我将预读值增加到256KB时,iostat输出如下

Device:         rrqm/s   wrqm/s     r/s     w/s    rMB/s    wMB/s avgrq-sz avgqu-sz   await r_await w_await  svctm  %util
sda               0.00    28.00  412.00   12.00   102.50     0.05   495.32    10.78   12.15    4.76  265.83   2.36 100.00
Run Code Online (Sandbox Code Playgroud)

同样,平均 I/O 请求大小为 256 KB,与预读相匹配。

这种情况一直持续到我将预读值设置为 512 KB 为止,而当我将预读值提高到 1024 KB 时,这种情况就不再持续了 - I/O 请求的平均大小仍然是 512 KB。将 max_sectors_kb(每个 I/O 请求的最大数据量)从默认值 512 KB 增加到 1024 KB 也没有帮助。

为什么会发生这种情况 - 理想情况下,我希望尽可能减少读取 IOPS,并在每个 I/O 请求中读取更大量的数据(每个请求大于 512 KB)。此外,我在所有情况下都达到了 100% 的磁盘利用率 - 我希望限制自己以 50-60% 的磁盘利用率进行读取,并具有良好的顺序吞吐量。简而言之,顺序读取 I/O 的优化应用程序/内核设置是什么。

Jun*_* Ge 4

预读在1024kb情况下不起作用的原因应该是你的硬盘扇区大小是512kb。请使用命令“fdisk -l”检查您的硬盘扇区大小。即使更改了预读大小和最大扇区大小参数,IO 的实际大小仍然不超过硬件 IO 大小(扇区大小)。