构建 CUDA 系统时 CPU 有多重要?

构建 CUDA 系统时 CPU 有多重要?

我只是一个无知的系统管理员,我们需要组装几台专门供用户使用 CUDA 的机器。我们正在研究戴尔 PowerEdge T620,并将四张 CUDA 卡塞进吸盘中。研究 CUDA 组件本身是另一个话题,但我想知道的一件事是,对于一台唯一目的是进行 CUDA 处理的机器来说,CPU 组件有多重要?CUDA 是否以某种方式依赖于 CPU,或者它是一个黑白分明的东西,一旦您开始执行 CUDA,一切都 100% 依赖于 GPU?或者它是否存在某种平衡/混合?

最基本的问题是,我们能否购买最便宜的 CPU 并使用它,同时牢记这些机器的唯一目的是用于 CUDA 编程?

答案1

您仍然需要一个 CPU 来:

  • 做出决定。CUDA 只是进行计算;它没有任何类似if语句来决定要计算什么。在 CPU 上运行的代码决定要做什么,然后设置 CUDA 要执行的计算。
  • 将数据复制到 GPU 中或从 GPU 中复制出来。为了加快速度,请确保您拥有尽可能多的 PCIe 带宽。如果您将此视为瓶颈,则可能需要更多服务器,但每台服务器的 GPU 更少。
  • 编译要在 GPU 上运行的程序。

CPU 相对便宜;没有理由在这方面吝啬。

相关内容