KVM 主机顶部 %wa 较高

2024-5-29 • tag-icon

linux performance raid

KVM 主机顶部 %wa 较高

我有一台运行多个 KVM 虚拟化客户端的服务器，报告%wa顶部较高。服务器硬件如下：

硬件 RAID10 中的 4x2TB
64GB 内存
双 E5-2620

顶部输出

% top - 03:56:51 up 12:24,  1 user,  load average: 17.13, 14.02, 12.88
Tasks: 582 total,   2 running, 563 sleeping,  17 stopped,   0 zombie
Cpu(s):  1.3%us,  3.4%sy,  0.0%ni, 64.9%id, 30.4%wa,  0.0%hi,  0.0%si,  0.0%st
Mem:  65881560k total, 25619484k used, 40262076k free,   781820k buffers
Swap:  4194296k total,   240788k used,  3953508k free,  7971412k cached

   PID USER      PR  NI  VIRT  RES  SHR S %CPU %MEM    TIME+  COMMAND
  3203 qemu      20   0 1930m 1.0g 5064 S 31.8  1.7 272:16.38 qemu-kvm
 64232 qemu      20   0 1732m 1.0g 4500 S 12.9  1.7  90:42.31 qemu-kvm
 90795 qemu      20   0 2203m 1.0g 4508 S 12.9  1.6   1:45.63 qemu-kvm
 32095 qemu      20   0 1602m 1.0g 4500 S 12.6  1.7 100:41.43 qemu-kvm
 89081 qemu      20   0 2133m 1.0g 4512 S  9.9  1.6   4:47.92 qemu-kvm
 71839 qemu      20   0 1592m 1.0g 4500 S  9.6  1.6  14:44.13 qemu-kvm
 66958 qemu      20   0 1592m 1.0g 4500 S  9.3  1.6 108:36.42 qemu-kvm
 69070 qemu      20   0 1592m 1.0g 4496 S  9.3  1.6  16:14.73 qemu-kvm
 23726 qemu      20   0 1518m 1.0g 4488 R  7.9  1.6  82:14.87 qemu-kvm
  3222 root      20   0     0    0    0 S  1.3  0.0   7:30.04 kvm-pit-wq
 80204 qemu      20   0 4490m 2.7g 4504 S  1.3  4.3  11:43.57 qemu-kvm
 91488 root      20   0 15428 1664  952 R  0.7  0.0   0:02.88 top
   347 root      39  19     0    0    0 S  0.3  0.0   1:28.38 kipmi0
  5534 qemu      20   0 3861m 2.9g 4528 S  0.3  4.7  10:08.12 qemu-kvm
  5554 root      20   0     0    0    0 S  0.3  0.0   0:08.51 vhost-5534
 23746 root      20   0     0    0    0 S  0.3  0.0   0:04.74 vhost-23726
 64252 root      20   0     0    0    0 S  0.3  0.0   0:07.05 vhost-64232

自从我们收到这台服务器以来，我们就一直遇到这个问题，请帮我解决。

iostat 输出的屏幕截图：

答案1

2x 4TB 硬盘的空间很大，但性能却不高。

例如，快速搜索显示西部数据制造了企业级4TB磁盘采用近线 SAS 形式，主轴转速为 7,200 RPM，并且维基百科给出了估计这种驱动器每秒可处理 75 到 150 个输入/输出操作（IOPS），具体取决于您的估算。

在 RAID-1 中，磁盘每秒最多可处理 300 个请求，其他请求则来自磁盘缓存、控制器缓存、操作系统和服务缓存。

虚拟机做什么？除非你指的是 2 个 4TB 池，每个池由许多较小的磁盘组成，否则我怀疑你没有足够的存储性能来支持十几个虚拟机。

答案2

运行iostat -xk 1以查看您的 HDD 的利用率。

如果读/写请求数量较少，但利用率较高 - 您的硬盘可能已损坏。

或者可能存在一些繁重的 IO 进程导致其超载。

UPD：您需要检查 raid 阵列的状态，它可能正在重建或发生故障

相关内容