监控 GPU 内存 I/O

Question

有没有办法从 shell 监控 GPU 内存 I/O，以及与 CUDA 一起使用的 Nvidia 显卡？

我习惯于nvidia-smi查看当前的内存利用率，但我更愿意查看增量（例如 10 MB/s），并且最好按进程进行细分（就像iotop磁盘 I/O 一样）。

nvidia-smi:

iotop:

Answer 1

nvprof如果你设置适当的开关，可以打印很好的统计数据。不幸的是我没有任何示例输出，但它可以像这样使用：

nvprof \
    --devices 0 \
    --metrics l1_cache_global_hit_rate \
    --metrics shared_load_transactions \
    ./your_app