在 Windows 10 中使用标准 NVidia 驱动程序时，Tesla K80 是否显示为 1 GPU 或 2 GPU。它是 CUDA 计算级别 3.5。也就是说对 TensorFlow 来说已经足够好了。对于 Torch 和其他软件包来说，它足够好吗？如果它是 2 个 12GB GPU 而不是 1 个 24GB GPU，那么像 TF 和 Torch 这样的常用软件包是否会充分利用这两个 GPU（内存和核心）？
答案1
单个 K80 卡应显示为两个设备。“足够好”是一个相对术语。许多研究人员选择更便宜的 GTX（或现在的 RTX）系列卡，而不是 K 系列或 Quadros，以应对您想要处理的工作负载类型。
并行计算是使用多台设备解决同一问题时所需要的。通过并行计算和深度学习中使用的神经网络类型，您可以获得良好的加速。
这篇博客文章非常值得一读： http://timdettmers.com/2018/11/05/which-gpu-for-deep-learning/
作为基准，Lambda 实验室公司销售带有三种不同卡的交钥匙 GPU 深度学习机器：GTX 1080 ti、RTX 2080 ti 和 Titan V 卡。