Ce este NUMA?

Dacă banii nu reprezintă o problemă, puteți cumpăra toate cele mai scumpe piese de PC pentru consumatori și puteți construi un computer puternic pentru a vă verifica e-mailul și a derula prin rețelele sociale. Desigur, nu așa cumpără majoritatea oamenilor; nici măcar nu este modul în care oamenii bogați cumpără lucruri, deoarece nu este o modalitate excelentă de a rămâne bogați. În schimb, majoritatea oamenilor se uită la ce vor să facă cu un computer și apoi găsesc un computer care are hardware adecvat.

Pe piața de acasă, există o cantitate decentă de alegere, dar odată ce ajungi la piața stațiilor de lucru și a serverelor, există câteva opțiuni și mai puternice pentru și mai mulți bani. De exemplu, cel mai bun PC pe care îl puteți construi acasă acceptă 16 nuclee ( sau 24 dacă luați în considerare nucleele de eficiență Intel ). De asemenea, puteți obține un GPU puternic. Din punct de vedere tehnic, puteți obține mai multe GPU-uri puternice, dar nu le puteți utiliza împreună, deoarece SLI/NVLINK este practic mort.

Pe piața serverelor și stațiilor de lucru, puteți obține mult mai multe nuclee într-un procesor, până la 96 în gama AMD EPYC. De asemenea, puteți obține GPU-uri cu interconexiuni mai capabile și mai multă VRAM. Cu toate acestea, nucleele CPU sunt acolo unde se duc o mulțime de bani, în special în lumile HPC ( High-Performance Computing ), Hyperscaler și Supercomputing. Deci, ce faci dacă ai nevoie de mai mult de 96 de nuclee într-un singur computer? Adăugați mai multe procesoare, evident.

Plăci de bază cu mai multe prize

Desigur, nu poți doar să pui un al doilea procesor pe orice placă de bază veche; n-ar fi unde să meargă. Ai nevoie de hardware specific. AMD acceptă posibilitatea ca două dintre procesoarele serverului lor EPYC să fie plasate pe aceeași placă de bază. Acesta oferă un total de 192 de nuclee sau 384 de fire. Cele mai recente procesoare de server Intel aveau maxim 40 de nuclee, deși generația anterioară avea un model cu 56 de nuclee. Intel, totuși, acceptă până la 8 procesoare pe o singură placă de bază. Adică 320 sau 448 de nuclee și 640 sau 896 de fire. Deși acest lucru este exagerat pentru verificarea Instagram, unele sarcini de lucru pot folosi toți acești cai putere.

Problema vine din memorie. Patru lucruri limitează, în general, procesoarele. Prima este lipsa de lucruri de făcut; uneori, procesorul pur și simplu nu este încărcat. În continuare, aveți putere, există doar atâta putere pe care o puteți consuma înainte de a începe să deteriorați procesorul și există limite pentru a vă asigura că procesorul nu este expus riscului de a se arde atunci când este sub sarcină maximă. De asemenea, aveți presiunea de temperatură strâns legată, cu cât folosiți mai multă putere, cu atât generați mai multă căldură și trebuie să disipați; supraîncălzirea este la fel de rea ca prea multă putere pe măsură ce lucrurile încep să se topească. Cealaltă limitare este accesul la memorie.

Un procesor are de obicei nevoie de o mulțime de date pentru a efectua multe procesări. Toate acestea sunt stocate în RAM. Din păcate, memoria RAM este destul de lentă în comparație cu un procesor. Acest lucru îl poate lăsa inactiv timp de „vârste” înainte de a obține datele de care are nevoie pentru a funcționa. Cache-ul CPU ajută foarte mult, dar este atât de mic încât nu poate acoperi totul, iar memoria principală trebuie accesată.

Latența memoriei

Pentru a minimiza efectul de încetinire a memoriei RAM, acesta este plasat fizic cât mai aproape de CPU. Acesta este motivul pentru care memoria RAM este întotdeauna situată direct lângă soclul procesorului de pe o placă de bază. Dar ce se întâmplă dacă aveți mai multe procesoare pe o singură placă de bază? Apoi, există un timp de acces diferit pentru un CPU pentru a-și accesa memoria în comparație cu memoria de lângă alta. „Oh, nu”, ați putea spune, „o memorie este puțin mai lentă”. Dar aceasta este o problemă reală care poate avea un efect surprinzător de profund asupra performanței. Acest concept se numește Acces neuniform la memorie sau NUMA.

NUMA presupune furnizarea unui mecanism pentru ca sistemul de operare să înțeleagă că, deși poate accesa toată memoria, unele părți sunt preferate pentru anumite lucruri față de altele. Acolo unde este posibil, sistemul de operare stochează apoi date pentru sarcinile care rulează pe CPU1 în RAM, direct lângă CPU1. În mod similar, datele necesare unei sarcini care rulează pe CPU2 sunt stocate în RAM direct lângă CPU2. Desigur, cu capacități RAM limitate și seturi masive de date, rămânerea în aceste limite nu este întotdeauna posibilă. Totuși, se depun cele mai bune eforturi și au un impact semnificativ asupra performanței.

Accesul la memorie pe un singur canal este, de asemenea, secvenţial. Aceasta înseamnă că atunci când două procesoare diferite încearcă să acceseze date pe același canal, unul conectat direct la DIMM și celălalt NUMA, a doua solicitare nu trebuie doar să aștepte, inactivă, cererea sa, ci și cererea celuilalt. procesor. Ca atare, ori de câte ori este posibil, datele ar trebui să fie stocate pe RAM direct lângă procesorul care va avea nevoie de ele.

Concluzie

NUMA înseamnă Acces neuniform la memorie. Este un termen folosit în sistemele informatice cu mai multe procesoare fizice. Se referă la faptul că un procesor va avea o latență de memorie diferită de RAM-ul care îl înconjoară direct în comparație cu RAM din jurul altui procesor. Latența suplimentară scade performanța sistemului în mai multe moduri. NUMA este o modalitate de a informa sistemul de operare că acesta este cazul.

Acesta îi permite să optimizeze utilizarea memoriei și localitatea datelor în funcție de CPU care are nevoie de date. Acolo unde este posibil, toate datele pentru procesele care rulează pe un procesor sunt stocate în memoria RAM atașată direct la procesorul respectiv. Când memoria RAM locală nu are suficientă capacitate, datele se pot răspândi în RAM în jurul altor procesoare. Din nou, acolo unde este posibil, numărul de hopuri NUMA este minimizat pentru a reduce latența.