什麼是 CPU 緩存？

現代 CPU 運行速度非常快；它們可以顯著優於系統 RAM。CPU 和內存之間的這種速度不平衡會導致您的處理器經常處於空閒狀態，等待將數據發送給它，以便它可以繼續運行進程。為了防止這種情況發生，讓 CPU 繼續運行得越來越快，使用了 CPU 緩存。

CPU緩存如何加速CPU？

CPU 緩存設計為盡可能快，然後緩存 CPU 請求的數據。CPU 緩存在三個方面對其速度進行了優化：延遲、帶寬和接近度。CPU 緩存以極低的延遲運行，從而最大限度地減少返回結果所需的時間。例如，Intel i9-9900k 的 L1、L2 和 L3 緩存的緩存延遲分別為 0.8、2.4 和 11.1 納秒。相比之下，現代高速 RAM 的延遲約為 14 納秒。

提示：稍後將更詳細地解釋緩存級別，但簡單地說，緩存的較低層更快但更昂貴，因此容量較低。納秒是十億分之一秒，因此 0.8 秒的延遲意味著返回結果所需的時間不到十億分之一秒。

在帶寬方面，CPU 緩存比傳統存儲和 RAM 提供了顯著的性能改進。L1 和 L3 緩存的讀取速度分別可以達到 2.3 TB/s 和 370 GB/s，而 RAM 的帶寬通常在 40 GB/s 左右。這種增加的帶寬意味著 CPU 緩存可以比 RAM 更快地將數據傳輸到 CPU。

為了實現最大可能的速度，CPU 緩存實際上內置於 CPU 芯片本身的矽片中。這最大限度地減少了任何電信號需要傳播的距離，從而使延遲盡可能低。例如，當 L3 緩存第一次從主板移到 CPU 芯片時，當時的處理器（Pentium 4 EE）能夠獲得 10-20% 的性能提升。

CPU緩存架構

現代 CPU 通常使用標記為 L1-3 的三層 CPU 緩存，編號較低的緩存更靠近 CPU 內核，速度更快，成本更高。多核 CPU 中的每個 CPU 核都有自己的 L1 緩存。它通常分為兩部分，L1I 和 L1D。L1I 用於緩存 CPU 的指令，而 L1D 用於緩存要執行這些指令的數據。

每個 CPU 內核通常在現代 CPU 上也有自己的 L2 緩存。L2 緩存比 L1 緩存更大、更慢，主要用於存儲原本無法放入 L2 緩存的數據。通過為每個內核配備專用的 L2 緩存，可以避免緩存爭用。緩存爭用是不同內核為自己的工作負載爭取緩存空間的情況，這可能導致重要數據從緩存中清除。

L3 緩存通常在處理器的所有 CPU 內核之間共享。同樣，L3 緩存比 L2 緩存慢，但更便宜且更大。通過提供共享緩存，可以減少在較低級別的每核心緩存上複製的數據量。

提示：以緩存大小為例，Intel的i9-9900K每核有64KB L1和256KB L2緩存（總共512KB L1和2MB L2），還有16MB共享L3緩存。

CPU緩存是如何使用的？

所有級別的 CPU 緩存都用於通過從 RAM 緩存數據來提高處理器性能。當 CPU 請求數據時，它通常首先搜索其緩存層，以嘗試盡快獲取數據。如果在緩存命中中發現數據，則 CPU 可以繼續處理。如果數據不在緩存中，即所謂的緩存未命中，則 CPU 必須檢查 RAM，如果數據也不存在，則必須檢查硬盤驅動器。始終首先檢查較快的層以獲得最佳性能。

為了幫助 CPU 在需要時將其需要的數據保存在緩存中，緩存會嘗試搶占 CPU 下一步可能需要的數據。例如，如果 CPU 為正在渲染的圖像請求了一些數據，則緩存可能會嘗試搶先緩存更多圖像數據，以便盡快將其提供給 CPU。