numa

低延迟系统的 NUMA 节点数量和 CPU 核心选择
numa

低延迟系统的 NUMA 节点数量和 CPU 核心选择

我使用 AMD EPYC 9374F CPU 和 Ubuntu Server 23.04。我的目标是实现尽可能低的延迟。 我在一个核心中运行 1 个热路径线程,并运行 3 个线程用于其他管理工作。根据 NUMA 节点,我计划为操作系统分配 0-3 个或 0-7 个核心。 我想了解拥有 1、2 或 4 个 NUMA 节点有哪些好处。拥有不同数量的 NUMA 节点可能有哪些优点或缺点? 有 AMD 3D V-Cache,这让我很困惑,不知道该选择哪些核心来固定我的线程。根据 AMD EPYC 9374F CPU 的架构,哪些 CPU 核心在缓存性能方面最好?或者...

Admin

为什么 NUMA 节点数量会影响处理器分组
numa

为什么 NUMA 节点数量会影响处理器分组

在配备 2 个 Xeon(R) Gold 6246R(32 个物理核心,64 个日志,带 HT)的 HPE DL380 G10 服务器上,在 BIOS 中使用以下设置: 系统配置 > BIOS/平台配置 (RBSU) > 性能选项 > 高级性能调整选项 > NUMA 组大小优化 我们可以从以下两个选项中选择: 群集— 沿 NUMA 边界优化组,提供更好的性能。 平坦的- 使尚未优化的应用程序能够利用跨多个组的处理器来利用更合乎逻辑的处理器。 “集群”选项将强制 Windows 仅报告一个 NUMA 节点,但报告 2 个处理器组...

Admin

NUMA 节点中的内存分配不计入系统内存
numa

NUMA 节点中的内存分配不计入系统内存

我最近开始研究具有 NUMA 节点的系统,并注意到一些奇怪的事情。 /proc/meminfo显示系统已128461 MB [root@nfvis node]# head -n4 /proc/meminfo MemTotal: 131544388 kB MemFree: 334016 kB MemAvailable: 49968 kB Buffers: 4296 kB 该系统有两个 NUMA 节点,以下是各节点的内存分布: [root@nfvis node]# head -n4 node0/meminfo Node 0 MemTotal: 6675...

Admin

如何在单系统环境中创建 NUMA 拓扑
numa

如何在单系统环境中创建 NUMA 拓扑

我想知道是否可以在单系统环境中创建 NUMA 拓扑(2 个 NUMA 节点也可以)(我正在使用 virtualbox ubuntu 18.04)。 当我运行时$numactl -H,我看到以下内容 available: 1 nodes (0) node 0 cpus: 0 1 2 3 node 0 size: 1992 MB node 0 free: 477 MB node distances: node 0 0: 10 我想知道在具有 4 个核心的系统中是否真的可以创建两个 NUMA 节点(仅用于模拟分布式环境)。或者我需要有四个以...

Admin

多CPU系统如何共享pci-express总线?
numa

多CPU系统如何共享pci-express总线?

对于现代单 CPU 系统来说,一切都是透明的:有多核 CPU,其中核心通过非核心功能(如 L3 缓存、共享片上内存控制器)进行通信。非核心还执行所有处理 pci-e 总线功能,例如提供对 GPU、网卡或 ssd 的访问。例如,我可以读取某个处理器确实支持 40 个 pci-e 通道。 但是当我试图思考两个独立的处理器如何与单个 GPU 通信时,事情变得很奇怪?在多插槽芯片组(例如 Intel® C612)上通常如何解决这个问题?我可以使用两个处理器的 80 个 pci-e 通道来连接 80 个 GPU,以便两个芯片中的每个核心都可以与每个 GPU 通信吗?...

Admin

有关 /dev/shm 中命名共享内存的信息
numa

有关 /dev/shm 中命名共享内存的信息

假设我看到一个名为/dev/shm/some.segment 我如何才能找到(使用命令行): 与之相关的流程是什么? 它所在的NUMA节点? 对于 #2,我可以编写一个小的 C 程序来move_pages()找出答案。只是想知道是否有方便的东西。 如果有必要的话,我使用 CentOS 7。 谢谢! ================ 更新(尝试了harrymc的建议): [myuser@mylinux ~]$ ipcs -pm ------ Shared Memory Creator/Last-op PIDs -------- shmid...

Admin

使用带有 NUMA 的 Windows Server 在两个节点上运行应用程序
numa

使用带有 NUMA 的 Windows Server 在两个节点上运行应用程序

今天我和一位客户进行了一次有趣的通话。我们有一个应用程序可以调度其他应用程序,通常情况下,使用 NUMA 配置的服务器(2 到 4 个节点)完全没有问题。 在通话中,我们启动了两个非常耗 CPU 的应用程序,并且都分配给了节点 0,因此整个机器的使用率只有 50%。一旦我们将第二个应用程序实例更改为另一个节点,我们就会使用所有核心(一半在一个应用程序上,一半在另一个应用程序上)。似乎不可能将应用程序分配给所有核心。 现在,这台机器和我习惯使用的机器之间的唯一区别是,Windows 的任务管理器在下拉列表中列出了节点,而不是一长串单独的核心,因此微软知道这...

Admin

如何更改 NUMA 节点间核心的分布?
numa

如何更改 NUMA 节点间核心的分布?

在 Ubuntu 14.04 TLS 上,总共 36 个核心 = (2 x CPU x 9 个核心 x 2 超线程),lscpu给我: Architecture: x86_64 CPU op-mode(s): 32-bit, 64-bit Byte Order: Little Endian CPU(s): 36 On-line CPU(s) list: 0-35 Thread(s) per core: 2 Core(s) per socket: 9 Sock...

Admin

NUMA 节点的数量总是等于套接字的数量吗?
numa

NUMA 节点的数量总是等于套接字的数量吗?

我曾经lscpu检查过两台服务器的配置: [root@localhost ~]# lscpu Architecture: x86_64 ...... Core(s) per socket: 1 Socket(s): 1 NUMA node(s): 1 Vendor ID: GenuineIntel CPU family: 6 Model: 26 另一个: [root@localhost Package...

Admin

有没有办法在一块芯片上专门运行一项作业?
numa

有没有办法在一块芯片上专门运行一项作业?

我们在工作中使用了大量大型 (1TB+) NUMA 机器,在基准测试中遇到了很多噪音。我们注意到,当机器上没有其他程序运行时,应用程序的运行时间在每次运行之间都非常一致,但是当有其他作业(即使是看似无关紧要的小作业)进入运行状态时,也会严重影响应用程序的性能。我们怀疑这可能是由于片上内存总线争用造成的,我们想测试一下这个假设。我们的目标不是最大限度地提高应用程序的性能,而只是消除其中的可变性,以便我们能够准确衡量性能优化的影响。 有没有办法向操作系统指定一个作业应专门在单个处理器芯片上运行?在我们的配置中,我们有 8 个处理器芯片,每个芯片有 10 个处理...

Admin

确定 PCIe 设备 NUMA 节点
numa

确定 PCIe 设备 NUMA 节点

假设是相当新的 Linux 操作系统,有没有一种简单的方法来确定设备插入的 PCIe 插槽属于哪个 NUMA 节点? ...

Admin

Windows XP 中内存地址到物理模块的映射
numa

Windows XP 中内存地址到物理模块的映射

我计划在双处理器、基于英特尔 Nehalem 微架构和三通道 RAM 的工作站上运行 32 位 Windows XP。尽管 XP 的 RAM 限制为 4 GB,但据我了解,安装超过 4 GB 的 RAM 后,它仍能正常工作,但只能使用 4 GB(或略少一点)。 我的问题是:假设 6 GB 的 RAM 安装在 6 个 1 GB 模块中,Windows 实际上会将哪个物理 4 GB 映射到其地址空间中? 尤其: 它会使用所有六个 1 GB 模块,利用所有内存通道吗?(我的猜测是肯定的,并且组内各个模块的映射发生在硬件中。) 它会将 2 GB 的地址空间映...

Admin

大型(> = 16CPU)系统的缓存相干文献
numa

大型(> = 16CPU)系统的缓存相干文献

您可以推荐哪些书籍和文章来学习大型 SMP 系统(实际上是 NUMA 和 ccNUMA)中具有 >=16 个 CPU 插槽的缓存一致性问题的基础知识? 像 SGI Altix 架构分析之类的东西可能会很有趣。 哪些协议(MOESI,其他)可以很好地扩展? ...

Admin

我应该在 64 位 Vista 中使用 NUMA 还是 SMP?
numa

我应该在 64 位 Vista 中使用 NUMA 还是 SMP?

我的 Dell Precision T5500 工作站在 BIOS 中有一个选项,用于在 SMP 和 NUMA 之间更改内存模式。 对于 64 位 Vista,我应该使用以下哪个选项?Vista 支持 NUMA 吗? 据我所知,我拥有的硬件本身是 NUMA(2 x Intel i7),但在 SMP 模式下,硬件将内存组条带化以生成单个统一的内存组。 ...

Admin