我正在读NvLink 规格有一张表格写着
Semiconductor|Interconnect| Sublink data-rate per data direction | Total data rate (out+in)
Nvidia V100 |NVLink 2.0 | 200 Gbit/s = 25 GByte/s | 300 GByte/s
这是否意味着 NVLink 只能输出 25 GB/s一方向(例如输入到 GPU)?如果 GPU(例如最新 RTX 2080) 标称带宽为 616 GB/s,这是否意味着它只能使用这 616 GB 中的 25 GB 进行内存传输?
答案1
这是否意味着它只能使用 616 GB 中的 25 GB 进行内存传输?
不,您引用的限制适用于 Nvidia 的上一代 GPU(Volta)。它不适用于当前一代(Turing)。
这是否意味着 NVLink 只能在一个方向(例如输入到 GPU)输出 25 GB/s?
在同一篇文章的后面,NVLink 的架构得到了更好的解释,每个链路的速度为 25 GB/秒。如果 Nvidia V100 的限制与 Nvidia P100 (Pascal) 相同,那么总共将上升 150 GB/秒,下降 150 GB/秒。
每个 NVLink(链路接口)提供双向 20 GB/秒上行和 20 GB/秒下行,每个 GP100 GPU 有 4 个链路,总带宽为 80 GB/秒上行和 80 GB/秒下行。