Bộ nhớ đệm CPU là gì?

Các CPU hiện đại chạy cực kỳ nhanh; chúng có thể hoạt động tốt hơn đáng kể so với RAM hệ thống. Sự mất cân bằng tốc độ này giữa CPU và bộ nhớ sẽ khiến bộ xử lý của bạn thường xuyên ở chế độ chờ, chờ dữ liệu được gửi đến nó để nó có thể tiếp tục chạy một quá trình. Để ngăn điều này xảy ra, cho phép CPU tiếp tục chạy ngày càng nhanh hơn, bộ nhớ đệm CPU được sử dụng.

Làm cách nào để bộ nhớ đệm CPU tăng tốc CPU?

Bộ đệm CPU được thiết kế để nhanh nhất có thể và sau đó lưu vào bộ đệm dữ liệu mà CPU yêu cầu. Bộ nhớ đệm CPU có tốc độ được tối ưu hóa theo ba cách: độ trễ, băng thông và khoảng cách. Bộ nhớ đệm CPU hoạt động với độ trễ rất thấp, giảm thiểu thời gian trả về kết quả. Ví dụ: Intel i9-9900k có độ trễ bộ nhớ cache là 0,8, 2,4 và 11,1 nano giây cho bộ nhớ cache L1, L2 và L3 tương ứng. Trong khi đó, độ trễ của RAM tốc độ cao hiện đại là 14 nano giây.

Mẹo: Các cấp độ bộ nhớ cache sẽ được giải thích chi tiết hơn ở phần sau, nhưng chỉ cần đặt các lớp bộ nhớ cache thấp hơn thì nhanh hơn nhưng đắt hơn nên có dung lượng thấp hơn. Một nano giây là một phần tỷ của giây, do đó, độ trễ 0,8 giây có nghĩa là mất ít hơn một phần tỷ giây để trả về một kết quả.

Về băng thông, bộ nhớ đệm CPU mang lại những cải tiến hiệu suất đáng kể so với bộ nhớ và RAM truyền thống. Tốc độ đọc của bộ nhớ đệm L1 và L3 có thể đạt đỉnh lần lượt là 2,3 TB / s và 370 GB / s, trong khi băng thông của RAM thường vào khoảng 40 GB / s. Việc tăng băng thông này có nghĩa là bộ nhớ cache của CPU có thể truyền dữ liệu đến CPU nhanh hơn rất nhiều so với RAM có thể.

Để đạt được tốc độ tối đa có thể, bộ nhớ đệm CPU thực sự được tích hợp vào silicon của chính khuôn CPU. Điều này giảm thiểu khoảng cách mà bất kỳ tín hiệu điện nào cần truyền đi, do đó giữ độ trễ thấp nhất có thể. Ví dụ, khi bộ nhớ đệm L3 lần đầu tiên được chuyển từ bo mạch chủ đến khuôn CPU, bộ xử lý thời đó (Pentium 4 EE) đã có thể cải thiện hiệu suất 10-20%.

Kiến trúc bộ nhớ đệm CPU

Các CPU hiện đại thường sử dụng ba lớp bộ nhớ đệm CPU có nhãn L1-3, với các bộ nhớ đệm được đánh số thấp hơn sẽ gần với lõi CPU hơn, nhanh hơn và đắt hơn. Mỗi lõi CPU riêng lẻ trong một CPU đa lõi có bộ đệm L1 riêng. Nó thường được chia thành hai phần, L1I và L1D. L1I được sử dụng để đệm các lệnh cho CPU trong khi L1D được sử dụng để lưu vào bộ đệm dữ liệu mà các lệnh đó sẽ được thực hiện.

Mỗi lõi CPU thường cũng có bộ nhớ đệm L2 riêng trên một CPU hiện đại. Bộ nhớ cache L2 lớn hơn và chậm hơn so với bộ nhớ cache L1 và được sử dụng chủ yếu để lưu trữ dữ liệu không phù hợp với bộ nhớ cache L2. Bằng cách có bộ nhớ cache L2 chuyên dụng cho mỗi lõi, việc tranh chấp bộ nhớ cache sẽ tránh được. Tranh chấp bộ nhớ cache là nơi các lõi khác nhau chiến đấu để giành không gian bộ nhớ cache cho khối lượng công việc của riêng họ, điều này có thể dẫn đến việc dữ liệu quan trọng bị xóa khỏi bộ nhớ cache.

Bộ nhớ đệm L3 thường được chia sẻ giữa tất cả các lõi CPU của bộ xử lý. Một lần nữa, bộ nhớ đệm L3 chậm hơn bộ nhớ đệm L2 nhưng rẻ hơn và lớn hơn. Bằng cách cung cấp bộ nhớ đệm dùng chung, bạn có thể giảm lượng dữ liệu sẽ được sao chép ở các mức thấp hơn của bộ đệm mỗi lõi.

Mẹo: Ví dụ: về kích thước bộ nhớ cache, i9-9900K của Intel có 64KB L1 và 256KB L2 cache cho mỗi lõi (tổng cộng 512KB L1 và 2MB L2), nó cũng có bộ nhớ đệm L3 dùng chung 16MB.

Bộ nhớ đệm CPU được sử dụng như thế nào?

Tất cả các cấp của bộ nhớ đệm CPU được sử dụng để tăng tốc hiệu suất của bộ xử lý bằng cách lưu dữ liệu vào bộ nhớ đệm từ RAM. Khi một CPU yêu cầu dữ liệu, nó thường tìm kiếm thông qua các lớp bộ nhớ cache của nó trước tiên để cố gắng lấy dữ liệu nhanh nhất có thể. Nếu dữ liệu được tìm thấy trong một lần truy cập bộ nhớ cache, thì CPU có thể tiếp tục xử lý. Nếu dữ liệu không có trong bộ nhớ cache, trong cái gọi là lỗi bộ nhớ cache, thì CPU phải kiểm tra RAM và sau đó là ổ cứng nếu dữ liệu cũng không có ở đó. Các lớp nhanh hơn luôn được kiểm tra đầu tiên để có hiệu suất tối đa.

Để giúp CPU có dữ liệu cần thiết trong bộ đệm khi nó cần, bộ đệm cố gắng sử dụng trước những dữ liệu mà CPU có thể cần tiếp theo. Ví dụ: nếu CPU đã yêu cầu một số dữ liệu cho một hình ảnh, nó đang hiển thị bộ nhớ cache có thể cố gắng lưu trữ trước nhiều dữ liệu hình ảnh hơn để nó có thể được đưa vào CPU nhanh nhất có thể.