什麼是 NUMA?

如果錢不是問題,您可以購買所有最昂貴的消費類 PC 部件並組裝一台功能強大的 PC 來查看電子郵件和瀏覽社交媒體。當然,這不是大多數人買東西的方式;這甚至不是富人如何購買東西,因為這不是保持富有的好方法。相反,大多數人會先看看他們想用計算機做什麼,然後再找到一台具有合適硬件的計算機。

在家庭市場上,有相當多的選擇,但一旦進入工作站和服務器市場,就會有一些功能更強大、價格更高的選擇。例如,您可以在家中構建的最好的 PC 支持 16 個內核(如果算上英特爾的效率內核,則為 24 個)。您還可以獲得強大的 GPU。從技術上講,您可以獲得多個功能強大的 GPU,但您不能同時使用它們,因為 SLI/NVLINK 基本上已失效。

在服務器和工作站市場,您可以獲得更多的 CPU 內核,在 AMD 的 EPYC 系列中多達 96 個。您還可以獲得具有更多互連能力和更多 VRAM 的 GPU。然而,CPU 核心是大量資金流向的地方,尤其是在 HPC(高性能計算)、超標度器和超級計算領域。那麼,如果一台計算機需要超過 96 個內核怎麼辦?顯然,添加更多 CPU。

多插座主板

當然,您不能只是在任何舊主板上安裝第二個 CPU;它無處可去。您需要特定的硬件。AMD 支持將其兩個 EPYC 服務器 CPU 放置在同一主板上的能力。這總共提供了 192 個內核或 384 個線程。英特爾最新的服務器 CPU 最高可達 40 個內核,而上一代服務器 CPU 的型號為 56 核。然而,英特爾在單個主板上最多支持 8 個 CPU。那是 320 或 448 個內核和 640 或 896 個線程。雖然這對於檢查 Instagram 來說有點過分了,但某些工作負載可以使用所有這些功能。

問題來自內存。有四件事通常會限制 CPU。首先是無事可做;有時,CPU 只是沒有加載。接下來,你有電源,在你開始損壞 CPU 之前你只能消耗那麼多的電源,並且有限制以確保 CPU 在滿載時不會有燒壞的風險。你也有密切相關的溫度壓力,你使用的功率越大,你產生的熱量就越多,必須消散; 當東西開始融化時,過熱與功率過大一樣糟糕。另一個限制是內存訪問。

CPU 通常需要大量數據來執行大量處理。所有這些都存儲在 RAM 中。不幸的是,與 CPU 相比,RAM 相當慢。這可能會使它在獲取操作所需的數據之前閒置“很長時間”。CPU緩存有很大幫助,但它太小了,無法覆蓋所有內容,並且需要訪問主內存。

內存延遲

為了盡量減少 RAM 變慢的影響,它在物理上盡可能靠近 CPU。這就是為什麼 RAM 總是直接位於主板上 CPU 插槽旁邊的原因。但是,如果在一塊主板上有多個 CPU 會怎樣?然後,與相鄰的內存相比,CPU 訪問其內存的訪問時間不同。“哦,不,”你可能會說,“有些內存稍微慢一點。” 但這是一個實際問題,會對性能產生令人驚訝的深遠影響。這個概念稱為非統一內存訪問或 NUMA。

NUMA 涉及為操作系統提供一種機制,以了解雖然它可以訪問所有內存,但某些部分比其他部分更適合某些部分。在可能的情況下,操作系統會將在 CPU1 上運行的任務的數據存儲在緊鄰 CPU1 的 RAM 中。類似地,在 CPU2 上運行的任務所需的數據直接存儲在 CPU2 旁邊的 RAM 中。當然,由於 RAM 容量有限且數據集龐大,並非總能保持在這些範圍內。儘管如此,仍會盡最大努力並對性能產生重大影響。

單個通道上的內存訪問也是順序的。這意味著當兩個不同的 CPU 嘗試訪問同一個通道上的數據時,一個直接連接到 DIMM 而另一個 NUMA 跳開,第二個請求不僅要等待,空閒,等待它的請求,還要等待另一個的請求處理器。因此,只要有可能,數據都應存儲在 RAM 中,緊挨著需要它的 CPU。

結論

NUMA 代表非統一內存訪問。這是一個用於具有多個物理 CPU 的計算機系統的術語。它指的是一個 CPU 與直接圍繞它的 RAM 與圍繞另一個 CPU 的 RAM 相比,內存延遲會有所不同。額外的延遲會以多種方式降低系統性能。NUMA 是一種通知操作系統這種情況的方法。

它允許它根據需要數據的 CPU 優化內存使用和數據局部性。在可能的情況下,CPU 上運行的進程的所有數據都存儲在直接連接到該 CPU 的 RAM 中。當本地 RAM 容量不足時,數據可能會溢出到其他 CPU 周圍的 RAM 中。同樣,盡可能減少 NUMA 躍點數以減少延遲。



Leave a Comment

什麼是 WPS?它是如何工作的?

什麼是 WPS?它是如何工作的?

通過此詳細教程了解 WPS 的全部內容,學習如何簡單安全地連接無線網絡。

LinkedIn:如何防止其他人知道您看到了他們的個人資料

LinkedIn:如何防止其他人知道您看到了他們的個人資料

了解如何使用LinkedIn的私人模式,防止其他人知道您查看了他們的個人資料。這裡有不同的解決方案,以確保您的隱私。

如何使用 Google Pixel Watch 追踪睡眠

如何使用 Google Pixel Watch 追踪睡眠

查看如何使用 Google Pixel Watch 來跟踪您的睡眠質量;另請參閱如何訪問收集到的信息。

在三星手機上使用和連接 AirPods

在三星手機上使用和連接 AirPods

如果您不確定是否為您的三星手機購買 AirPods,本指南當然可以提供幫助,涵蓋三星手機與 AirPods 的兼容性及使用方法。

Pioneer DEH-1700:如何設置時鐘

Pioneer DEH-1700:如何設置時鐘

在 Pioneer DEH-1700 汽車音響上設置時間的詳細步驟和提示,讓您的音響系統更便捷。

如何將游戲手柄與 Oculus Quest 2 連接

如何將游戲手柄與 Oculus Quest 2 連接

了解如何將游戲手柄無縫連接到Oculus Quest 2,提升您的遊戲體驗。

如何使用三星 Flow

如何使用三星 Flow

探索如何使用三星 Flow 將您的智能手機和平板電腦連接到 Windows PC,享受無縫的文件共享與通知同步。

什麼是 SLI?

什麼是 SLI?

SLI 或 Scalable Link Interface 是一種 Nvidia 技術,允許多個顯卡協同作業以提升性能。了解 SLI 的優缺點及最佳配置方法。

修復始終顯示在 Galaxy Watch 上不起作用的問題

修復始終顯示在 Galaxy Watch 上不起作用的問題

要修復三星 Galaxy Watch 上的“始終顯示”問題,請禁用省電模式並清除 Galaxy Wearable 應用程序緩存。我們提供了詳細的故障排除步驟。

如何關閉相機快門聲音 – Galaxy S 21 Plus

如何關閉相機快門聲音 – Galaxy S 21 Plus

在 Galaxy S21 Plus 上像忍者一樣拍攝照片並關閉快門聲。了解如何使用簡單的步驟來悄悄拍照。