Cosè la NUMA?

Se il denaro non è un problema, puoi acquistare tutte le parti di PC consumer più costose e costruire un potente PC per controllare la posta e scorrere i social media. Naturalmente, questo non è il modo in cui la maggior parte delle persone compra le cose; non è nemmeno il modo in cui le persone ricche comprano le cose, poiché non è un modo eccellente per rimanere ricchi. Invece, la maggior parte delle persone guarda cosa vogliono fare con un computer e poi trova un computer con hardware adatto.

Nel mercato domestico, c'è una discreta quantità di scelta, ma una volta arrivato al mercato delle workstation e dei server, ci sono alcune opzioni ancora più potenti per ancora più soldi. Ad esempio, il miglior PC che puoi costruire a casa supporta 16 core ( o 24 se conti i core di efficienza di Intel ). Puoi anche ottenere una potente GPU. Tecnicamente puoi ottenere più GPU potenti, ma non puoi usarle insieme poiché SLI/NVLINK è sostanzialmente morto.

Nel mercato dei server e delle workstation, puoi ottenere molti più core in una CPU, fino a 96 nella gamma EPYC di AMD. Puoi anche ottenere GPU con interconnessioni più capaci e più VRAM. I core della CPU, tuttavia, sono dove vanno molti soldi, specialmente nei mondi HPC ( High-Performance Computing ), Hyperscaler e Supercomputing. Quindi, cosa fai se hai bisogno di più di 96 core in un computer? Aggiungi più CPU, ovviamente.

Schede madri multi-socket

Ovviamente, non puoi semplicemente schiaffeggiare una seconda CPU su una vecchia scheda madre; non ci sarebbe nessun posto dove andare. Hai bisogno di hardware specifico. AMD supporta la possibilità di posizionare due delle sue CPU server EPYC sulla stessa scheda madre. Ciò offre un totale di 192 core o 384 thread. Le ultime CPU per server di Intel hanno raggiunto il massimo a 40 core, sebbene la generazione precedente presentasse un modello a 56 core. Intel, tuttavia, supporta fino a 8 CPU su una singola scheda madre. Sono 320 o 448 core e 640 o 896 thread. Anche se questo è eccessivo per controllare Instagram, alcuni carichi di lavoro possono utilizzare tutta questa potenza.

Il problema viene dalla memoria. Quattro cose generalmente limitano le CPU. Il primo è la mancanza di cose da fare; a volte, la CPU non è caricata. Successivamente, hai energia, c'è solo così tanta energia che puoi assorbire prima di iniziare a danneggiare la CPU e sono previsti limiti per garantire che la CPU non sia a rischio di esaurimento quando è a pieno carico. Hai anche la pressione della temperatura strettamente correlata, più energia usi, più calore generi e devi dissipare; il surriscaldamento è tanto grave quanto troppa potenza quando le cose iniziano a sciogliersi. L'altra limitazione è l'accesso alla memoria.

Una CPU in genere ha bisogno di molti dati per eseguire molte elaborazioni. Tutto ciò è memorizzato nella RAM. Sfortunatamente, la RAM è piuttosto lenta rispetto a una CPU. Questo può lasciarlo inattivo per "eternità" prima che ottenga i dati di cui ha bisogno per funzionare. La cache della CPU aiuta molto, ma è così piccola che non può coprire tutto e occorre accedere alla memoria principale.

Latenza della memoria

Per ridurre al minimo l'effetto della lentezza della RAM, viene posizionata fisicamente il più vicino possibile alla CPU. Questo è il motivo per cui la RAM si trova sempre direttamente accanto al socket della CPU su una scheda madre. Ma cosa succede se hai più CPU su una singola scheda madre? Quindi c'è un tempo di accesso diverso per una CPU per accedere alla sua memoria rispetto alla memoria accanto a un'altra. "Oh no", potresti dire, "alcuni ricordi sono leggermente più lenti". Ma questo è un problema reale che può avere un effetto sorprendentemente profondo sulle prestazioni. Questo concetto è chiamato accesso alla memoria non uniforme o NUMA.

NUMA prevede di fornire un meccanismo affinché il sistema operativo comprenda che mentre può accedere a tutta la memoria, alcune parti sono preferite per certe cose rispetto ad altre. Ove possibile, il sistema operativo memorizza quindi i dati per le attività in esecuzione sulla CPU1 nella RAM direttamente accanto alla CPU1. Allo stesso modo, i dati necessari per un'attività in esecuzione sulla CPU2 vengono archiviati nella RAM direttamente accanto alla CPU2. Ovviamente, con capacità RAM limitate e enormi set di dati, non è sempre possibile rimanere entro questi confini. Tuttavia, vengono fatti i migliori sforzi e hanno un impatto significativo sulle prestazioni.

Anche l'accesso alla memoria su un singolo canale è sequenziale. Ciò significa che quando due diverse CPU tentano di accedere ai dati sullo stesso canale, una direttamente collegata al DIMM e l'altra NUMA hop away, la seconda richiesta non solo deve attendere, inattiva, la sua richiesta ma anche quella dell'altra processore. Pertanto, ove possibile, i dati dovrebbero essere archiviati nella RAM direttamente accanto alla CPU che ne avrà bisogno.

Conclusione

NUMA sta per accesso alla memoria non uniforme. È un termine utilizzato nei sistemi informatici con più CPU fisiche. Si riferisce al fatto che una CPU avrà una latenza di memoria diversa rispetto alla RAM che la circonda direttamente rispetto alla RAM che circonda un'altra CPU. La latenza aggiuntiva riduce le prestazioni del sistema in diversi modi. NUMA è un modo per informare il sistema operativo che questo è il caso.

Consente di ottimizzare l'utilizzo della memoria e la località dei dati in base alla CPU che necessita dei dati. Ove possibile, tutti i dati per i processi in esecuzione su una CPU vengono archiviati nella RAM direttamente collegata a tale CPU. Quando la RAM locale non ha una capacità sufficiente, i dati possono riversarsi nella RAM attorno ad altre CPU. Anche in questo caso, ove possibile, il numero di hop NUMA è ridotto al minimo per ridurre la latenza.