![使用 NvLink 为显卡提供带宽](https://linux22.com/image/1568402/%E4%BD%BF%E7%94%A8%20NvLink%20%E4%B8%BA%E6%98%BE%E5%8D%A1%E6%8F%90%E4%BE%9B%E5%B8%A6%E5%AE%BD.png)
我正在读NvLink 规格有一张表格写着
Semiconductor|Interconnect| Sublink data-rate per data direction | Total data rate (out+in)
Nvidia V100 |NVLink 2.0 | 200 Gbit/s = 25 GByte/s | 300 GByte/s
这是否意味着 NVLink 只能输出 25 GB/s一方向(例如输入到 GPU)?如果 GPU(例如最新 RTX 2080) 标称带宽为 616 GB/s,这是否意味着它只能使用这 616 GB 中的 25 GB 进行内存传输?
答案1
这是否意味着它只能使用 616 GB 中的 25 GB 进行内存传输?
不,您引用的限制适用于 Nvidia 的上一代 GPU(Volta)。它不适用于当前一代(Turing)。
这是否意味着 NVLink 只能在一个方向(例如输入到 GPU)输出 25 GB/s?
在同一篇文章的后面,NVLink 的架构得到了更好的解释,每个链路的速度为 25 GB/秒。如果 Nvidia V100 的限制与 Nvidia P100 (Pascal) 相同,那么总共将上升 150 GB/秒,下降 150 GB/秒。
每个 NVLink(链路接口)提供双向 20 GB/秒上行和 20 GB/秒下行,每个 GP100 GPU 有 4 个链路,总带宽为 80 GB/秒上行和 80 GB/秒下行。