什麼是便簽本內存？

數據訪問是 CPU 設計的關鍵部分。CPU 以極高的速度運行，每個時鐘週期處理多條指令，因此需要訪問大量數據。絕大多數數據存儲在存儲介質上。然而，與 CPU 相比，存儲設備慢得不可思議。存儲設備在順序讀取方面也明顯優於隨機讀取，儘管 SSD 在這方面（以及許多其他方面）比 HDD 提供了顯著改進。

系統 RAM 旨在加載 CPU 當前運行的軟件可能需要的所有數據。RAM 的延遲明顯低於存儲，它還經過專門定制以具有高隨機讀取性能。儘管如此，儘管現代 RAM 速度很快，但與延遲大約 400 個時鐘週期的 CPU 相比，它仍然是小巫見大巫。

為了進一步減少延遲，大多數現代 CPU 都包含緩存層。通常，這些被稱為 L1、L2 和 L3 緩存。L1 速度非常快，通常需要 5 個時鐘週期來訪問。L2 有點慢，大約 20 個週期。L3 甚至更慢，仍然在 200 次左右。雖然 L1 的速度快得令人難以置信，但它也很小。它的速度很大程度上來自於較小的緩存需要較少的搜索時間這一事實。L2 比 L1 大但比 L3 小，L3 仍然比系統 RAM 小。很好地平衡這些緩存的大小對於獲得高性能 CPU 至關重要。緩存命中率很重要，但您需要平衡命中次數與獲得該命中所需的時間，因此需要層級。

便簽本內存

請注意，暫存器內存不適合傳統的內存層次結構。那是因為大多數消費類 CPU 都沒有使用它。便簽本存儲器旨在像現實生活中的便簽本一樣使用。您記下需要記住但實際上不需要歸檔的臨時信息。大部分時間 CPU 處理數據，然後立即再次需要該結果。它可以將它複製到內存中，但為了能夠快速訪問它，它還應該將它保存在緩存中。

Scratchpad 內存本質上填補了與 L1 緩存相同的空白。它可以盡可能快地訪問，通常是個位數的循環計數。管理這個，也比較小。不過，L1 和暫存器之間有兩個主要區別。首先，暫存器存儲器是可直接尋址的。其次，它在所有內核和處理器之間共享。

高速緩存和暫存器的區別

CPU緩存對CPU來說本質上是透明的，它不能故意往裡面放數據，裡面的內容也不能編程。取而代之的是，CPU 只是從 RAM 中請求數據，並且碰巧以更快的速度取回數據，有時甚至比預期的要快得多。允許暫存器可尋址意味著代碼可以準確指定暫存器中應包含哪些數據。這可能很有用，儘管現代緩存算法非常出色，標準工作負載的命中率預計為 95-97%。

L1 緩存始終鎖定到單個處理核心。沒有其他處理核心可以訪問它。這意味著如果多個內核需要相同的數據，它們可能會在各自的 L1 緩存中復制它。在某些 CPU 架構中，L2 是每個內核，而在其他架構中，它由少數甚至所有內核共享。L3 傾向於由所有內核共享。在核心之間共享緩存允許兩個或多個核心訪問相同的數據而不復制它。它還允許一個核心在有需要且緩存有空間時利用超過其公平份額的資源。

Scratchpad 在速度和容量方面與 L1 類似，但它在所有內核之間共享。這允許非常快速地訪問多線程工作負載中正在處理的特定數據。便簽本內存甚至可以在多插槽主板上的不同 CPU 之間共享。

暫存器的一個缺點是它可能被過度依賴。為了能夠直接訪問它，軟件可能依賴於它在一定數量上的存在。在這種情況下，它將無法在沒有那麼多暫存器內存的 CPU 上運行。緩存層根本不會遇到這個問題，因此更適合一般用途。

用例

便簽本內存最常見於為 HPC（高性能計算）設計的多插槽服務器系統中。在那裡，它結合了速度和共享訪問，使其適用於高度並行的工作負載。

便簽本內存也可用於更小的處理器。嵌入式處理器，通常是 MPSoC。嵌入式處理器通常功耗較低，專用於特定任務。這種專業化通常體現在硬件優化中。特別是在片上多處理器系統中，共享高速內存可以顯著改善多個不同處理器的延遲。這些類型的 CPU 通常在設計上非常固定。例如，遊戲機已經對硬件設計進行了大量優化，因此可以很好地利用這些功能，而無需擔心向後或向前的兼容性。

結論

Scratchpad 內存類似於 L1 緩存，但有許多改變其用例的差異。它不是緩存，而是直接可尋址的，允許將數據專門分配給特別高速的內存。它還在所有處理器內核和處理器之間共享，使其在大量多線程工作負載中特別有用。