有没有办法更准确地测量 nvidia GPU 的使用情况？

Question

我正在尝试测量 Ubuntu 上的 nvidia GPU 利用率，如如何测量 GPU 使用情况？结果尽可能准确。我将 nvidia-smi 循环间隔设置为 5 毫秒，实际上我每秒可以得到大约 200 个样本。不幸的是，nvidia-smi 似乎只能产生分辨率约为 170 毫秒的结果（因此对于每个这样的间隔，我得到大约 35 个完全相同的样本）。

有什么方法可以提高 nvidia-smi 采样分辨率？

Answer 1

否，如果使用nvidia-smi或任何与 NVML 绑定（Python/Perl/Go）。最高分辨率记录在NVML API 指南那，

设备的使用率信息。每个采样周期可能介于 1 秒和 1/6 秒之间，具体取决于所查询的产品。

因此，您观察到的“分辨率约为 170 毫秒”非常准确。为了获得更高的准确性，建议使用直流电磁流量计（仅适用于某些系列的 GPU）。