我的数据集由大小为 100-300 KB 的 jpg 文件组成，总大小约为 100 GB。我想快速随机读取这些文件。我有一台服务器，上面有华硕 x99-E WS 主板和 x4 1080Ti。我想在上面安装带 M.2 的 SSD（960 EVO Samsung），因为它的速度很快。但我想知道这个 SSD 会如何影响我的 GPU？它会大大降低 CPU<->GPU 连接的速度，甚至禁用部分 1080 吗？
答案1
显然，该主板有一个 PLX 芯片，可提供 48 个额外的 PCI-E 通道。因此，即使这些卡都以 16x 运行，您也应该有 24 或 12 个可用通道（取决于您的 CPU）。
答案2
听起来像是一个机器学习设置。1080Ti 的带宽非常高，远远超过机器学习所需的带宽。它的尺寸适合以 4K、60 FPS 玩游戏，占用 16 条通道。
因此，是的，由于 PCI-e 通道不足，您可能会遇到理论上的速度减慢。您需要一台 AMD Threadripper 才能以这些分辨率和帧速率驱动那么多卡。在 X99 平台上，总共有 28 条通道，您甚至无法为每张卡提供 8 条通道。
但对于机器学习来说，大部分时间都花在做数学运算上。CPU 和 GPU 之间的通信速度限制要小得多。毕竟，您只能从单个 SSD 获取输入数据，因此这很可能是限制。即使 SSD 本身不是限制，M2 插槽也仅限于 4 个通道，因此每个 1080Ti 有 4 个通道也不是问题。
[编辑] 检查华硕 X99-WS 的具体设置，它似乎使用两个 PLX 芯片将 2x16 通道多路复用为 4x16 通道，供 4 个 GPU 使用。这意味着每个通道都可以达到 x16 的峰值速度，但不能同时达到。这仍然无关紧要，它仍然是 M2 瓶颈。