什麼是 NUMA？

如果錢不是問題，您可以購買所有最昂貴的消費類 PC 部件並組裝一台功能強大的 PC 來查看電子郵件和瀏覽社交媒體。當然，這不是大多數人買東西的方式；這甚至不是富人如何購買東西，因為這不是保持富有的好方法。相反，大多數人會先看看他們想用計算機做什麼，然後再找到一台具有合適硬件的計算機。

在家庭市場上，有相當多的選擇，但一旦進入工作站和服務器市場，就會有一些功能更強大、價格更高的選擇。例如，您可以在家中構建的最好的 PC 支持 16 個內核（如果算上英特爾的效率內核，則為 24 個）。您還可以獲得強大的 GPU。從技術上講，您可以獲得多個功能強大的 GPU，但您不能同時使用它們，因為 SLI/NVLINK 基本上已失效。

在服務器和工作站市場，您可以獲得更多的 CPU 內核，在 AMD 的 EPYC 系列中多達 96 個。您還可以獲得具有更多互連能力和更多 VRAM 的 GPU。然而，CPU 核心是大量資金流向的地方，尤其是在 HPC（高性能計算）、超標度器和超級計算領域。那麼，如果一台計算機需要超過 96 個內核怎麼辦？顯然，添加更多 CPU。

多插座主板

當然，您不能只是在任何舊主板上安裝第二個 CPU；它無處可去。您需要特定的硬件。AMD 支持將其兩個 EPYC 服務器 CPU 放置在同一主板上的能力。這總共提供了 192 個內核或 384 個線程。英特爾最新的服務器 CPU 最高可達 40 個內核，而上一代服務器 CPU 的型號為 56 核。然而，英特爾在單個主板上最多支持 8 個 CPU。那是 320 或 448 個內核和 640 或 896 個線程。雖然這對於檢查 Instagram 來說有點過分了，但某些工作負載可以使用所有這些功能。

問題來自內存。有四件事通常會限制 CPU。首先是無事可做；有時，CPU 只是沒有加載。接下來，你有電源，在你開始損壞 CPU 之前你只能消耗那麼多的電源，並且有限制以確保 CPU 在滿載時不會有燒壞的風險。你也有密切相關的溫度壓力，你使用的功率越大，你產生的熱量就越多，必須消散; 當東西開始融化時，過熱與功率過大一樣糟糕。另一個限制是內存訪問。

CPU 通常需要大量數據來執行大量處理。所有這些都存儲在 RAM 中。不幸的是，與 CPU 相比，RAM 相當慢。這可能會使它在獲取操作所需的數據之前閒置“很長時間”。CPU緩存有很大幫助，但它太小了，無法覆蓋所有內容，並且需要訪問主內存。

內存延遲

為了盡量減少 RAM 變慢的影響，它在物理上盡可能靠近 CPU。這就是為什麼 RAM 總是直接位於主板上 CPU 插槽旁邊的原因。但是，如果在一塊主板上有多個 CPU 會怎樣？然後，與相鄰的內存相比，CPU 訪問其內存的訪問時間不同。“哦，不，”你可能會說，“有些內存稍微慢一點。” 但這是一個實際問題，會對性能產生令人驚訝的深遠影響。這個概念稱為非統一內存訪問或 NUMA。

NUMA 涉及為操作系統提供一種機制，以了解雖然它可以訪問所有內存，但某些部分比其他部分更適合某些部分。在可能的情況下，操作系統會將在 CPU1 上運行的任務的數據存儲在緊鄰 CPU1 的 RAM 中。類似地，在 CPU2 上運行的任務所需的數據直接存儲在 CPU2 旁邊的 RAM 中。當然，由於 RAM 容量有限且數據集龐大，並非總能保持在這些範圍內。儘管如此，仍會盡最大努力並對性能產生重大影響。

單個通道上的內存訪問也是順序的。這意味著當兩個不同的 CPU 嘗試訪問同一個通道上的數據時，一個直接連接到 DIMM 而另一個 NUMA 跳開，第二個請求不僅要等待，空閒，等待它的請求，還要等待另一個的請求處理器。因此，只要有可能，數據都應存儲在 RAM 中，緊挨著需要它的 CPU。

結論

NUMA 代表非統一內存訪問。這是一個用於具有多個物理 CPU 的計算機系統的術語。它指的是一個 CPU 與直接圍繞它的 RAM 與圍繞另一個 CPU 的 RAM 相比，內存延遲會有所不同。額外的延遲會以多種方式降低系統性能。NUMA 是一種通知操作系統這種情況的方法。

它允許它根據需要數據的 CPU 優化內存使用和數據局部性。在可能的情況下，CPU 上運行的進程的所有數據都存儲在直接連接到該 CPU 的 RAM 中。當本地 RAM 容量不足時，數據可能會溢出到其他 CPU 周圍的 RAM 中。同樣，盡可能減少 NUMA 躍點數以減少延遲。