AWS 如何进行 GPU 虚拟化?

AWS 如何进行 GPU 虚拟化?

亚马逊使用什么样的技术进行 GPU 虚拟化?AWS GPU 实例上的多个虚拟机是否可以同时共享 GPU 并为其 CUDA / openCL 程序加速?我知道以下是 GPU 虚拟化的可能方法:

1) API 远程处理:虚拟机模拟 GPU,主机上的 GPU 以 RPC 方式从虚拟机调用。这可以是基于共享内存或基于网络的远程处理。

2) 实际的 GPU 虚拟化,其中多个 VM 可以同时共享一个 GPU。但据我所知,Xen(AWS 使用)不支持此功能。

我要做一个项目,需要在内部私有云中共享组织的 GPU。我需要知道 AWS 通过什么技术在商业上提供云中的 GPGPU?我已经彻底搜索过了,我的结论是没有开源软件足够成熟到可以在商业上做到这一点。

请帮忙!

答案1

NVidia 的 Tesla GPU 允许学位虚拟化,他们有一个你可以研究的 API,但我远非专家 - 尽管他们不支持在任何其他卡上实现这一点。

相关内容