GPU 使用情况监控 (CUDA)

GPU 使用情况监控 (CUDA)

我在计算机上安装了 CUDA 工具包,并在 GPU 上启动了 BOINC 项目。在 BOINC 中,我可以看到它正在 GPU 上运行,但是有没有一个工具可以向我显示有关 GPU 上运行的内容的更多详细信息 - GPU 使用情况和内存使用情况?

答案1

对于 Nvidia GPU,有一个工具nvidia-smi可以显示内存使用情况、GPU 利用率和 GPU 温度。还有一个计算进程列表和更多选项,但我的显卡 (GeForce 9600 GT) 不完全支持。

Sun May 13 20:02:49 2012       
+------------------------------------------------------+                       
| NVIDIA-SMI 3.295.40   Driver Version: 295.40         |                       
|-------------------------------+----------------------+----------------------+
| Nb.  Name                     | Bus Id        Disp.  | Volatile ECC SB / DB |
| Fan   Temp   Power Usage /Cap | Memory Usage         | GPU Util. Compute M. |
|===============================+======================+======================|
| 0.  GeForce 9600 GT           | 0000:01:00.0  N/A    |       N/A        N/A |
|   0%   51 C  N/A   N/A /  N/A |  90%  459MB /  511MB |  N/A      Default    |
|-------------------------------+----------------------+----------------------|
| Compute processes:                                               GPU Memory |
|  GPU  PID     Process name                                       Usage      |
|=============================================================================|
|  0.           Not Supported                                                 |
+-----------------------------------------------------------------------------+

答案2

对于 Linux,usenvidia-smi -l 1将持续为您提供 GPU 使用信息,刷新间隔为 1 秒。

答案3

最近我编写了一个简单的命令行实用程序,名为gpustat(这是 的包装nvidia-smi):请看一下https://github.com/wookayin/gpustat

答案4

您可以使用nvtop,它htop与 NVIDIA GPU 类似。关联:https://github.com/Syllo/nvtop

在 Ubuntu 上安装sudo apt install nvtop

在此输入图像描述

相关内容