如何查找我的 GPU 上的内存使用情况？

Question

之前我使用以下命令检查 GPU 上的内存使用情况：

nvidia-settings -q all | grep Memory

numpy我正在使用和在 GPU 上处理一些科学数据theano。我在运行 gnome 桌面的情况下执行此操作，设备上已使用了 380 Mb 内存。因此，我停止了 lightdm 以释放更多的 GPU 内存；但是，现在 nvidia-settings 工具不再起作用。

它只是错误地表示没有显示

ERROR: Cannot open display ':0.0'.

有没有其他方法可以在不使用此工具的情况下获取 GPU 内存？有没有办法让它在无头模式下运行？

Answer 1

对于 Nvidia GPU：

nvidia-smi

对于 Intel GPU：

intel_gpu_tools

对于 AMD GPU：

aticonfig --odgc --odgt

实时观看——例如：

watch nvidia-smi

Answer 2

我认为更好的方法是安装一个实用程序nvtop

例如，在下图中，根据 nvtop 命令，所有 3 个 GPU 上的内存使用率几乎达到 100%。

nvtop

Answer 3

如果您想每秒检查一次内存使用情况，则 watch 命令可以完成这项工作。

watch -n 1 nvidia-smi