Quest-ce que la mémoire Scratchpad ?

L'accès aux données est un élément essentiel de la conception du processeur. Les processeurs fonctionnent à des vitesses extrêmement élevées, traitant plusieurs instructions à chaque cycle d'horloge et ont donc besoin d'accéder à de nombreuses données. La grande majorité de ces données sont stockées sur les supports de stockage. Les périphériques de stockage, cependant, sont incroyablement lents par rapport à un processeur. Les périphériques de stockage sont également nettement meilleurs en lecture séquentielle qu'en lecture aléatoire, bien que les SSD offrent une nette amélioration à cet égard (et bien d'autres) par rapport aux disques durs.

La RAM système est conçue pour être chargée avec toutes les données dont le processeur pourrait avoir besoin pour le logiciel en cours d'exécution. La RAM a une latence nettement inférieure à celle du stockage, elle est également spécialement conçue pour avoir des performances de lecture aléatoire élevées. Pourtant, même si la RAM moderne est rapide, ce n'est toujours rien comparé au CPU avec des latences de l'ordre de 400 cycles d'horloge.

Pour réduire davantage la latence, la plupart des processeurs modernes incluent des niveaux de mémoire cache. Généralement, ceux-ci sont appelés caches L1, L2 et L3. L1 est très rapide, prenant généralement de l'ordre de 5 cycles d'horloge pour y accéder. L2 est un peu plus lent, de l'ordre de 20 cycles. L3 est encore plus lent à environ 200 cycles. Bien que L1 soit incroyablement rapide, il est également minuscule. Une grande partie de sa vitesse vient du fait que les caches plus petits prennent moins de temps à rechercher. L2 est plus grand que L1 mais plus petit que L3 qui est encore plus petit que la RAM système. Bien équilibrer la taille de ces caches est essentiel pour obtenir un processeur hautes performances. Les taux d'accès au cache sont importants, mais vous devez équilibrer le nombre d'accès avec le temps qu'il faut pour obtenir cet accès, d'où les niveaux.

Mémoire du bloc-notes

Notez que la mémoire du bloc-notes ne rentre pas dans la hiérarchie de la mémoire traditionnelle. C'est parce qu'il n'est pas utilisé dans la plupart des processeurs grand public. La mémoire Scratchpad est conçue pour être utilisée comme un bloc-notes dans la vraie vie. Vous notez des informations temporaires dont vous devez vous souvenir mais que vous n'avez pas besoin de classer. La plupart du temps, un processeur traite les données et a ensuite immédiatement besoin de ce résultat. Il peut le copier en mémoire, mais pour pouvoir y accéder rapidement, il doit également le conserver dans le cache.

La mémoire Scratchpad comble essentiellement le même vide que le cache L1. Il est accessible aussi rapidement que possible, souvent en nombre de cycles à un chiffre. Pour gérer cela, il est également relativement petit. Il existe cependant deux différences essentielles entre la mémoire L1 et la mémoire du bloc-notes. Premièrement, la mémoire du bloc-notes est directement adressable. Deuxièmement, il est partagé entre tous les cœurs et processeurs.

Différences entre cache et bloc-notes

Le cache du CPU est essentiellement transparent pour le CPU, il ne peut pas délibérément y mettre des données et son contenu ne peut pas être programmé. Au lieu de cela, le processeur demande simplement des données à la RAM et les récupère plus rapidement, parfois beaucoup plus rapidement que prévu. Permettre au bloc-notes d'être adressable signifie que le code peut spécifier exactement quelles données doivent se trouver dans le bloc-notes. Cela peut être utile, bien que les algorithmes de mise en cache modernes soient excellents avec des taux de réussite de 95 à 97 % attendus dans les charges de travail standard.

Le cache L1 est toujours verrouillé sur un cœur de traitement individuel. Aucun autre cœur de traitement ne peut y accéder. Cela signifie que si plusieurs cœurs ont besoin des mêmes données, ils peuvent les dupliquer dans leurs caches L1 respectifs. Dans certaines architectures de CPU, le L2 est par cœur, dans d'autres, il est partagé par un petit nombre ou même tous les cœurs. L3 a tendance à être partagé par tous les cœurs. Le partage du cache entre les cœurs permet à deux cœurs ou plus d'accéder aux mêmes données sans les dupliquer. Cela permet également à un cœur d'utiliser plus que sa juste part lorsqu'il en a besoin et que le cache dispose de l'espace nécessaire.

Scratchpad agit de la même manière que le L1 en termes de vitesse et de capacité, mais il est partagé entre tous les cœurs. Cela permet un accès très rapide à des données spécifiques traitées dans une charge de travail multithread. La mémoire Scratchpad peut même être partagée entre des processeurs distincts sur des cartes mères multi-sockets.

Un inconvénient de la mémoire du bloc-notes est qu'elle peut être trop utilisée. Pouvant y accéder directement, les logiciels peuvent compter sur sa présence en certaines quantités. Dans ce cas, il serait alors incapable de fonctionner sur des processeurs sans autant de mémoire de bloc-notes. Les niveaux de cache ne souffrent tout simplement pas de ce problème et sont donc mieux adaptés à une utilisation générale.

Cas d'utilisation

La mémoire Scratchpad se trouve le plus souvent dans les systèmes de serveurs multi-sockets conçus pour le HPC (High-Performance Computing). Là, sa combinaison de vitesse et d'accès partagé le rend utile pour les charges de travail hautement parallèles.

La mémoire Scratchpad est également utilisée dans des processeurs beaucoup plus petits. Processeurs embarqués, souvent des MPSoC. Un processeur embarqué est souvent relativement peu gourmand en énergie et spécialisé pour une tâche spécifique. Cette spécialisation est souvent représentée dans les optimisations matérielles. Dans un système multiprocesseur sur puce en particulier, la mémoire haute vitesse partagée peut fournir des améliorations significatives de la latence à plusieurs processeurs différents. Ces types de processeurs sont souvent de conception très fixe. Les consoles de jeux, par exemple, voient déjà de nombreuses optimisations pour la conception matérielle et peuvent donc faire bon usage de ces fonctionnalités sans avoir à se soucier de la compatibilité ascendante ou descendante.

Conclusion

La mémoire Scratchpad est similaire au cache L1 mais présente un certain nombre de différences qui modifient ses cas d'utilisation. Au lieu d'être un cache, il est directement adressable, ce qui permet aux données d'être spécifiquement affectées à une mémoire particulièrement rapide. Il est également partagé entre tous les cœurs de processeur et tous les processeurs, ce qui le rend particulièrement utile dans les charges de travail fortement multithread.