调整顺序磁盘读取以提高性能

调整顺序磁盘读取以提高性能

我正在从磁盘中顺序读取一个大文件,并尝试iostat在读取过程中理解输出。

  • 文件大小:10 GB
  • 读取缓冲区:4 KB
  • 预读 (/sys/block/sda/queue/read_ahead_kb):128 KB

输出iostat如下

Device:         rrqm/s   wrqm/s     r/s     w/s    rMB/s    wMB/s avgrq-sz avgqu-sz await r_await w_await  svctm  %util
sda               0.00     0.00  833.00   14.00   103.88     0.05   251.30     6.07    5.69    2.33 205.71  1.18 100.00

计算 I/O 请求的平均大小 =(rMB/s 除以 r/s)得出 ~ 128 KB,这是预读值。这似乎表明,虽然 read 系统调用指定了 4KB 缓冲区,但实际磁盘 I/O 是根据预读值发生的。

当我将预读值增加到256KB时,iostat输出如下

Device:         rrqm/s   wrqm/s     r/s     w/s    rMB/s    wMB/s avgrq-sz avgqu-sz   await r_await w_await  svctm  %util
sda               0.00    28.00  412.00   12.00   102.50     0.05   495.32    10.78   12.15    4.76  265.83   2.36 100.00

同样,平均 I/O 请求大小为 256 KB,与预读相匹配。

这种情况一直持续到我将预读值设置为 512 KB 为止,而当我将预读值提高到 1024 KB 时,这种情况就不再持续了 - I/O 请求的平均大小仍然是 512 KB。将 max_sectors_kb(每个 I/O 请求的最大数据量)从默认值 512 KB 增加到 1024 KB 也没有帮助。

为什么会发生这种情况 - 理想情况下,我希望尽可能减少读取 IOPS,并在每个 I/O 请求中读取大量数据(每个请求大于 512 KB)。此外,我在所有情况下都达到 100% 的磁盘利用率 - 我希望限制自己以 50-60% 的磁盘利用率进行读取,并具有良好的顺序吞吐量。简而言之,顺序读取 I/O 的优化应用程序/内核设置是什么?

答案1

您可能受到max_sectors_kb的设置的限制/dev/sda

cat /sys/block/sda/queue/max_sectors_kb

几乎肯定会返回 512。

您应该可以将其更改为 1024,如下所示:

echo 1024 > /sys/block/sda/queue/max_sectors_kb

假设您没有遇到其他限制,那么您看到的 IO 大小应该会增加到 1024 KB。

相关内容