NUMA 节点的数量是否总是等于套接字？

Question

我曾经lscpu检查过两台服务器配置：

[root@localhost ~]# lscpu
Architecture:          x86_64
......
Core(s) per socket:    1
Socket(s):             1
NUMA node(s):          1
Vendor ID:             GenuineIntel
CPU family:            6
Model:                 26

另一个：

[root@localhost Packages]# lscpu
Architecture:          x86_64
.....
Socket(s):             2
NUMA node(s):          2
Vendor ID:             GenuineIntel
CPU family:            6
Model:                 45

所以我想知道NUMA节点的数量实际上是否总是等于套接字。有没有他们不相等的例子？

Answer 1

你为什么想知道 NUMA 节点的数量？重要的部分是 NUMA 拓扑，它说明了这些“节点”是如何连接的。

我检查了几个系统，包括由 4 个互连的 2 插槽刀片（Hitachi Compute Node 2000）组成的 8 插槽（10 核 CPU）系统。此外，此处 NUMA 节点的数量等于 CPU 插槽的数量 (8)。这取决于 CPU 架构，主要是其内存总线设计。

整个 NUMA（非均匀内存访问）定义了每个逻辑 CPU 如何访问内存的每个部分。当你有2个socket系统时，每个CPU（socket）都有自己的内存，可以直接访问。但它也必须能够访问另一个套接字中的内存——这当然比访问本地内存需要更多的 CPU 周期。NUMA 节点指定系统内存的哪一部分是哪个 CPU 本地的。您可以拥有更多的拓扑层，例如在 HP Superdome 系统（使用 Intel Itanium2 CPU）的情况下，您拥有本地 CPU 插槽内存，然后是同一单元内不同插槽上的内存，然后是其他单元中的内存（它们具有最高延迟）。

您可以将系统中的 NUMA 配置为为您的工作负载提供最佳性能。例如，您可以允许所有 CPU 访问所有内存，或仅访问本地内存，然后更改 linux 调度程序在可用逻辑 CPU 之间分配进程的方式。如果你有很多不需要太多内存的进程，只使用本地内存可能会有好处，但如果你有大进程（Oracle 数据库及其共享内存），使用所有 CPU 中的所有内存可能会更好。

您可以使用诸如numastat或 之类的命令numactl --hardware来检查系统上的 NUMA 状态。这是来自那台 8 插槽机器的信息：

hana2:~ # lscpu
Architecture:          x86_64
CPU(s):                160
Thread(s) per core:    2
Core(s) per socket:    10
CPU socket(s):         8
NUMA node(s):          8
NUMA node0 CPU(s):     0-19
NUMA node1 CPU(s):     20-39
NUMA node2 CPU(s):     40-59
NUMA node3 CPU(s):     60-79
NUMA node4 CPU(s):     80-99
NUMA node5 CPU(s):     100-119
NUMA node6 CPU(s):     120-139
NUMA node7 CPU(s):     140-159

hana2:~ # numactl --hardware
available: 8 nodes (0-7)
node 0 cpus: 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19
node 0 size: 130961 MB
node 0 free: 66647 MB
node 1 cpus: 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39
node 1 size: 131072 MB
node 1 free: 38705 MB
node 2 cpus: 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59
node 2 size: 131072 MB
node 2 free: 71668 MB
node 3 cpus: 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79
node 3 size: 131072 MB
node 3 free: 47432 MB
node 4 cpus: 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99
node 4 size: 131072 MB
node 4 free: 68458 MB
node 5 cpus: 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119
node 5 size: 131072 MB
node 5 free: 62218 MB
node 6 cpus: 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139
node 6 size: 131072 MB
node 6 free: 68071 MB
node 7 cpus: 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159
node 7 size: 131008 MB
node 7 free: 47306 MB
node distances:
node   0   1   2   3   4   5   6   7
  0:  10  21  21  21  21  21  21  21
  1:  21  10  21  21  21  21  21  21
  2:  21  21  10  21  21  21  21  21
  3:  21  21  21  10  21  21  21  21
  4:  21  21  21  21  10  21  21  21
  5:  21  21  21  21  21  10  21  21
  6:  21  21  21  21  21  21  10  21
  7:  21  21  21  21  21  21  21  10

在那里，您可以看到每个 NUMA 节点（CPU 插槽）中存在的内存量以及已使用和空闲的内存量。

最后一部分显示了 NUMA 拓扑 - 它显示了各个节点之间在内存访问延迟方面的“距离”（数字只是相对的，它们不代表以毫秒为单位的时间或其他任何东西）。在这里您可以看到本地内存的延迟（节点 0 访问 0 中的内存，节点 1 中的 1，...）为 10，而远程延迟（节点访问其他节点上的内存）为 21。尽管该系统由 4 个独立的刀片，同一刀片或其他刀片上的不同插槽的延迟相同。

关于 NUMA 的有趣文档也在RedHat 门户网站上。

Answer 2

不。NUMA 节点的数量并不总是等于套接字的数量。例如，AMD Threadripper 1950X 有 1 个插槽和 2 个 NUMA 节点，而双 Intel Xeon E5310 系统可以显示 2 个插槽和 1 个 NUMA 节点。