如何使用 Infiniband 访问本地服务器中的文件而无需使用 IP

如何使用 Infiniband 访问本地服务器中的文件而无需使用 IP

首先我想说的是,我对所做的一切感到非常缺乏经验,所以请对我宽容一点。

我有 4 台计算机,每台都安装了 Red hat Enterprise Linux server 7.8,它们都连接到运行子网管理器的 Voltaire grid director 4036 infiniband 交换机。为简单起见,我将计算机称为 s1-s4。我希望 s2、s3 和 s4 能够在不使用 IP 的情况下访问和下载 s1 上的文件,因为我读到过,不使用 IP 可以将性能提高多达 20%(如果我错了,请纠正我)。不使用 IP 是否可以进行文件传输?

此外,由于我是这个网站的新手,如果我应该提供更多信息或对某些事情不清楚,请随时告诉我。如果您认为我误解了某些内容,那么您也可以随时纠正我。

谢谢

答案1

tl;dr:查看并坚持使用 NFSoRDMA。

这是需要明确的几点。考虑到您使用 RHEL 7 作为基础,您可能希望通过 NFS 将文件从 s1 传输到 s2、s3 和 s4。

您说的对,在 Infiniband 上运行 IP 存在性能和延迟问题,更不用说高 CPU 负载了,因为 Infiniband 上基本上没有 IP 卸载,一切都在软件中完成。当运行纯 IPoIB 工作负载时,您的服务器可能会浪费 99% 的 CPU 周期ksoftirq

考虑到这一点,还有另一个问题:NFS 以及其他文件服务依赖 IP 网络才能正常运行。

您需要的是支持 RDMA 的文件共享协议。通常它们仍然依赖于 IP,但仅限于初始握手,在连接建立后,它们会升级到 RDMA,在您的情况下,使用 Infiniband。还有其他实现 RDMA 的结构:例如 RoCE 和 Omni-Path。

对于 NFS,您应该特别寻找 NFSoRDMA(NFS over RDMA)。您没有说您有哪种硬件,但如果是 Mellanox,您需要安装 MLNX OFED(可能是 LTS 4.9 版本以支持旧硬件)并启用 NFSoRDMA。我不确定 INBOX RHEL 7 OFED 实现上是否可以使用 NFSoRDMA。据我所知,EL8 上可以使用。

通常情况下,您仍然需要一个具有 IP 地址的启动并运行的 IPoIB 接口,ib0但如果配置正确,NFS 将仅通过 IP 传输控制消息,而批量流量将通过 RDMA 传输。

其他文件系统,例如蜜蜂GFS操作方式相同。通过 IP 初始化并升级到 RDMA。格鲁斯特在过去是一个选项,但是 RDMA 已被删除。

相关内容