我正在从磁盘中顺序读取一个大文件,并尝试iostat
在读取过程中理解输出。
- 文件大小:10 GB
- 读取缓冲区:4 KB
- 预读 (/sys/block/sda/queue/read_ahead_kb):128 KB
输出iostat
如下
Device: rrqm/s wrqm/s r/s w/s rMB/s wMB/s avgrq-sz avgqu-sz await r_await w_await svctm %util
sda 0.00 0.00 833.00 14.00 103.88 0.05 251.30 6.07 5.69 2.33 205.71 1.18 100.00
计算 I/O 请求的平均大小 =(rMB/s 除以 r/s)得出 ~ 128 KB,这是预读值。这似乎表明,虽然 read 系统调用指定了 4KB 缓冲区,但实际磁盘 I/O 是根据预读值发生的。
当我将预读值增加到256KB时,iostat
输出如下
Device: rrqm/s wrqm/s r/s w/s rMB/s wMB/s avgrq-sz avgqu-sz await r_await w_await svctm %util
sda 0.00 28.00 412.00 12.00 102.50 0.05 495.32 10.78 12.15 4.76 265.83 2.36 100.00
同样,平均 I/O 请求大小为 256 KB,与预读相匹配。
这种情况一直持续到我将预读值设置为 512 KB 为止,而当我将预读值提高到 1024 KB 时,这种情况就不再持续了 - I/O 请求的平均大小仍然是 512 KB。将 max_sectors_kb(每个 I/O 请求的最大数据量)从默认值 512 KB 增加到 1024 KB 也没有帮助。
为什么会发生这种情况 - 理想情况下,我希望尽可能减少读取 IOPS,并在每个 I/O 请求中读取大量数据(每个请求大于 512 KB)。此外,我在所有情况下都达到 100% 的磁盘利用率 - 我希望限制自己以 50-60% 的磁盘利用率进行读取,并具有良好的顺序吞吐量。简而言之,顺序读取 I/O 的优化应用程序/内核设置是什么?
答案1
您可能受到max_sectors_kb
的设置的限制/dev/sda
。
cat /sys/block/sda/queue/max_sectors_kb
几乎肯定会返回 512。
您应该可以将其更改为 1024,如下所示:
echo 1024 > /sys/block/sda/queue/max_sectors_kb
假设您没有遇到其他限制,那么您看到的 IO 大小应该会增加到 1024 KB。