Co to jest pamięć podręczna?

Podczas żądania danych z dowolnego źródła zawsze występuje pewne opóźnienie. Ping do serwerów sieciowych jest mierzony w milisekundach, czas dostępu do pamięci masowej może mieć opóźnienia w mikrosekundach, podczas gdy opóźnienie pamięci RAM jest mierzone w cyklach zegara procesora. Oczywiście tego rodzaju prędkości byłyby nie do pomyślenia zaledwie kilka dekad temu, ale obecnie nigdy nie są wystarczająco szybkie. Szybkość dostępu jest często wąskim gardłem w wydajności. Jednym ze sposobów rozwiązania tego problemu jest buforowanie.

Buforowanie to proces przechowywania tymczasowej kopii zasobu w taki sposób, że można uzyskać do niego dostęp szybciej niż normalnie. Istnieje ogromny zakres wdrożeń zarówno w oprogramowaniu, jak i sprzęcie. Pamięci podręczne mogą działać jako pamięci podręczne odczytu, pamięci podręczne zapisu lub obie te funkcje.

Odczytywanie pamięci podręcznych

W pamięci podręcznej odczytu dane, o które poproszono wcześniej, są przechowywane w pamięci podręcznej w celu szybszego dostępu. W niektórych scenariuszach pamięć podręczna może być nawet prewencyjnie ładowana danymi, umożliwiając obsłużenie pierwszego żądania z pamięci podręcznej, a nie tylko kolejnych żądań.

Pamięć podręczna odczytu, którą najprawdopodobniej znasz, to pamięć podręczna przeglądarki. Tutaj przeglądarka przechowuje lokalną kopię żądanych zasobów. Oznacza to, że jeśli i kiedy strona internetowa jest ponownie ładowana lub ładowana jest podobna strona, która wykorzystuje większość tej samej treści, treść ta może być obsługiwana z pamięci podręcznej, a nie z serwera WWW. Nie tylko oznacza to, że strona internetowa może ładować się szybciej, ale także zmniejsza obciążenie serwera WWW i zmniejsza ilość danych, które użytkownik musi pobrać, co może być ważne w przypadku połączeń taryfowych.

Sama pamięć RAM działa również jako pamięć podręczna odczytu danych na dysku twardym. W takim przypadku dane uruchomionego programu są ładowane z wyprzedzeniem do pamięci RAM, aby procesor mógł uzyskać do nich szybszy dostęp. Dane z pamięci RAM są następnie buforowane w pamięci podręcznej procesora, chociaż proces ten jest o wiele bardziej złożony, ponieważ pamięć podręczna procesora jest mierzona w megabajtach, a nie w gigabajtach.

Zapisuj pamięci podręczne

Pamięć podręczna zapisu to pamięć podręczna, która może absorbować dane zapisywane na wolniejszym urządzeniu. Typowym tego przykładem może być pamięć podręczna SLC w nowoczesnych dyskach SSD. Ta pamięć podręczna nie pozwala na szybszy odczyt danych, jednak zapis jest znacznie szybszy niż zapis w pamięci flash TLC lub QLC, która tworzy resztę dysku SSD. Pamięć podręczna SLC może absorbować szybkie operacje zapisu, a następnie przenosi te dane tak szybko, jak to możliwe do pamięci flash TLC, która oferuje znacznie lepszą gęstość przechowywania, ale jest również znacznie wolniejsza w zapisie. Korzystanie z pamięci flash w ten sposób optymalizuje ją zarówno pod kątem dużych prędkości zapisu, jak i dużej gęstości pamięci.

Hybrydowe pamięci podręczne

Istnieje wiele sposobów obsługi pamięci podręcznych, które pozwalają im działać zarówno jako pamięć podręczna do odczytu, jak i zapisu. Każda z tych metod obsługuje operacje zapisu inaczej i ma zalety i wady. Trzy opcje to zapis, zapis i zapis zwrotny. Pamięć podręczna z zapisem całkowicie pomija pamięć podręczną podczas zapisywania, pamięć podręczna z zapisem zapisuje w pamięci podręcznej, ale uważa operację za zakończoną tylko wtedy, gdy została zapisana w pamięci. Pamięć podręczna z zapisem zwrotnym zapisuje w pamięci podręcznej, a następnie uznaje operację za zakończoną, opierając się na pamięci podręcznej w celu przeniesienia jej do magazynu, jeśli jest to potrzebne.

Zapisywanie może być przydatne, jeśli spodziewasz się dużej liczby zapisów, ponieważ minimalizuje zmianę pamięci podręcznej. Oznacza to jednak, że operacja, która następnie odczytuje dowolne z tych zapisanych danych, za pierwszym razem napotka co najmniej jedną pomyłkę w pamięci podręcznej. Zapis w pamięci podręcznej powoduje natychmiastowe buforowanie operacji zapisu, co oznacza, że ​​wynik może zostać przesłany z pamięci podręcznej przy pierwszym żądaniu. Aby jednak operacja zapisu została uznana za zakończoną, musi również zapisać dane na dysku, co zwiększa opóźnienie. Pamięć podręczna z funkcją zapisu zwrotnego ma takie same zalety jak pamięć podręczna umożliwiająca natychmiastowe udostępnianie zapisanych danych z pamięci podręcznej. Nie wymaga jednak operacji zapisu do zapisu na dysk, aby można go było uznać za zakończony. Zmniejsza to opóźnienie zapisu, ale wiąże się z ryzykiem utraty danych, jeśli pamięć podręczna jest niestabilna i nie zakończy zapisywania danych z powrotem do pamięci przed utratą zasilania.

Jak usunąć dane z pamięci podręcznej?

Jednym z czynników ograniczających każdą pamięć podręczną jest pojemność. Przeszukiwanie dużej pamięci podręcznej zajmuje dużo czasu, co w pierwszej kolejności niweczy znaczną część zalet korzystania z pamięci podręcznej. Technologie pamięci używane do buforowania są również zwykle droższe niż pamięć, z której są buforowane. Gdyby tak nie było, prawdopodobnie ta warstwa pamięci zmieniłaby technologie pamięci w celu poprawy wydajności. Oba te czynniki oznaczają, że pamięci podręczne są zwykle stosunkowo małe, zwłaszcza w porównaniu z nośnikiem pamięci, z którego są buforowane. Pamięć RAM ma mniejszą pojemność niż pamięć masowa, a pamięć podręczna procesora ma mniejszą pojemność niż pamięć RAM. Pamięć podręczna SLC ma mniejszą pojemność niż pamięć TLC.

Wszystko to oznacza, że ​​często trzeba cyklicznie usuwać dane z pamięci podręcznej, aby zwolnić miejsce na nowe dane, które muszą być buforowane. Istnieje szereg różnych podejść do tego. „Najrzadziej używane” preferuje eksmisję wpisów z pamięci podręcznej, które mają najniższą liczbę dostępów. Może to być przydatne do przewidywania, które wpisy będą miały najmniejszy wpływ na przyszłe braki w pamięci podręcznej, ale może również liczyć bardzo niedawno dodane wpisy jako mające małą liczbę dostępów, co może prowadzić do zmiany pamięci podręcznej.

„Ostatnio używane” woli usuwać wpisy z pamięci podręcznej, które nie były używane od jakiegoś czasu. Zakłada się, że nie są one obecnie używane, ale nie bierze pod uwagę, czy były intensywnie używane jakiś czas temu. „Ostatnio używane” woli usuwać ostatnio używane wpisy z pamięci podręcznej, zakładając, że były one używane i nie będą potrzebne ponownie. Najlepszym podejściem jest na ogół połączenie wszystkich trzech, oparte na statystykach użytkowania.

Nieaktualne informacje i zagrożenia bezpieczeństwa

Główne ryzyko związane z pamięciami podręcznymi polega na tym, że zawarte w nich informacje mogą stać się nieaktualne. Wpis w pamięci podręcznej jest uważany za nieaktualny, gdy oryginalne dane zostały zaktualizowane, pozostawiając wpis w pamięci podręcznej nieaktualny. Ważne jest, aby regularnie sprawdzać, czy udostępniana kopia na żywo nadal pasuje do kopii w pamięci podręcznej.

Szczególnie w witrynach internetowych niezwykle ważne jest określenie, jakie dane mogą, a które nie mogą być buforowane. Na przykład całkiem dobrze jest przechowywać w pamięci podręcznej duży, niezmienny plik JavaScript. Oszczędza to użytkownikowi pobierania go za każdym razem, a nawet może przynieść korzyści innym użytkownikom obsługiwanym przez tę samą pamięć podręczną. Nie można jednak buforować danych specyficznych dla sesji. Wyobraź sobie, co by się stało, gdybyś przeglądał aplikację do przesyłania wiadomości, będąc zalogowanym na siebie, i okazało się, że otrzymałeś zapisaną w pamięci podręcznej wersję wiadomości innego użytkownika. Na szczęście serwery internetowe mogą określić, które zasoby mogą, a które nie mogą być buforowane, a te problemy są ogólnie dobrze znane, więc takich problemów jest niewiele.

Wniosek

Pamięć podręczna to część pamięci, która może przechowywać niektóre ostatnio używane dane w metodzie przechowywania, do której dostęp jest szybszy niż ponowne ukończenie normalnego procesu dostępu do danych. Pamięć podręczna ma zwykle ograniczoną pojemność, co oznacza, że ​​musi usuwać wpisy, gdy się zapełni. Pamięć podręczna jest na ogół niewidoczna dla użytkownika, co oznacza, że ​​opóźnienie jest jedyną wskazówką, że wynik został dostarczony przez pamięć podręczną.