![RHEL+ 我们可以通过调整内核参数来提高磁盘性能吗?](https://linux22.com/image/778015/RHEL%2B%20%E6%88%91%E4%BB%AC%E5%8F%AF%E4%BB%A5%E9%80%9A%E8%BF%87%E8%B0%83%E6%95%B4%E5%86%85%E6%A0%B8%E5%8F%82%E6%95%B0%E6%9D%A5%E6%8F%90%E9%AB%98%E7%A3%81%E7%9B%98%E6%80%A7%E8%83%BD%E5%90%97%EF%BC%9F.png)
我们有 Hadoop 集群,我们正在收集指标数据,以调查 Spark 应用程序的缓慢行为
经过对 Hadoop 集群的长期调查
我们从 Prometheus 指标中注意到,node_disk_io_now 的值高于正常值,并且它与数据节点机器上的所有 HDFS 磁盘相关
node_disk_io_now 定义是:
node_disk_io_now (字段 9) 唯一应归零的字段。当请求被发送到适当的 struct request_queue 时,该字段会增加,当请求完成时,该字段会减少。
我们想知道,调整内核参数是否可以对磁盘性能产生积极的影响
根据 node_disk_io_now 定义,似乎队列中等待的任务太多,
也许一些内核参数可以帮助改善上述行为,这样队列中的任务就不会长时间存在
答案1
在您的问题中,我看不出您使用的是哪种类型的磁盘,是 SSD/SAS/NLSAS 还是混合型。这是您选择中最重要的部分。
回答您的问题,对于内核参数,我会说是的,有一些参数您可以使用,以找到最适合您的集群的参数。
IO 优化中很重要的一个部分就是 IO Scheduler,目前的 Linux 内核中有三个 IO Scheduler。
无操作(先进先出):用于 SAN、SSD 类型的存储,其中存储设备本身足够智能,可以处理自身的优化。
最后期限:总体来说,这对文件和数据库服务器来说很好。您必须考虑是否要增强吞吐量或延迟。或者您可以增加读取请求,反之亦然。
常见问题:不推荐用于服务器,适合桌面使用。
除了 IO 调度程序之外,还有一些其他虚拟内存参数,下面我将仅提及它们,但您需要自己阅读有关它们的更多信息,以提高性能。
vm.swappiness
vm.dirty_ratio
vm.dirty_background_ratio
vm.dirty_expire_centisecs
and....
答案2
据我所知,没有内核选项可以改善这种情况。但是,您可能需要检查所有其他节点的 RAID 控制器是否具有与该节点相同的值(例如块写入大小),或者实际上相反。
还要确保 /etc/fstab 中的所有挂载都具有相同的选项。
除此之外,您需要检查磁盘规格并确保它们相同。
您还可以检查 RAM 大小,因为某些文件系统会在 RAM 中进行大量缓存。不确定 HDFS 是否如此,但例如 ZFS 非常依赖这一点。