使用 NvLink 为显卡提供带宽

使用 NvLink 为显卡提供带宽

我正在读NvLink 规格有一张表格写着

Semiconductor|Interconnect| Sublink data-rate per data direction | Total data rate (out+in)
Nvidia V100  |NVLink 2.0  | 200 Gbit/s = 25 GByte/s              | 300 GByte/s

这是否意味着 NVLink 只能输出 25 GB/s方向(例如输入到 GPU)?如果 GPU(例如最新 RTX 2080) 标称带宽为 616 GB/s,这是否意味着它只能使用这 616 GB 中的 25 GB 进行内存传输?

答案1

这是否意味着它只能使用 616 GB 中的 25 GB 进行内存传输?

不,您引用的限制适用于 Nvidia 的上一代 GPU(Volta)。它不适用于当前一代(Turing)。

这是否意味着 NVLink 只能在一个方向(例如输入到 GPU)输出 25 GB/s?

在同一篇文章的后面,NVLink 的架构得到了更好的解释,每个链路的速度为 25 GB/秒。如果 Nvidia V100 的限制与 Nvidia P100 (Pascal) 相同,那么总共将上升 150 GB/秒,下降 150 GB/秒。

每个 NVLink(链路接口)提供双向 20 GB/秒上行和 20 GB/秒下行,每个 GP100 GPU 有 4 个链路,总带宽为 80 GB/秒上行和 80 GB/秒下行。

来源

相关内容