有没有办法更准确地测量 nvidia GPU 的使用情况?

有没有办法更准确地测量 nvidia GPU 的使用情况?

我正在尝试测量 Ubuntu 上的 nvidia GPU 利用率,如如何测量 GPU 使用情况?结果尽可能准确。我将 nvidia-smi 循环间隔设置为 5 毫秒,实际上我每秒可以得到大约 200 个样本。不幸的是,nvidia-smi 似乎只能产生分辨率约为 170 毫秒的结果(因此对于每个这样的间隔,我得到大约 35 个完全相同的样本)。

有什么方法可以提高 nvidia-smi 采样分辨率?

在此处输入图片描述

答案1

否,如果使用nvidia-smi或任何与 NVML 绑定(Python/Perl/Go)。最高分辨率记录在NVML API 指南那,

设备的使用率信息。每个采样周期可能介于 1 秒和 1/6 秒之间,具体取决于所查询的产品。

因此,您观察到的“分辨率约为 170 毫秒”非常准确。为了获得更高的准确性,建议使用直流电磁流量计(仅适用于某些系列的 GPU)。

相关内容