¿Qué es NUMA?

Si el dinero no es un problema, puede comprar todas las piezas de PC de consumo más caras y construir una poderosa PC para revisar su correo electrónico y desplazarse por las redes sociales. Por supuesto, no es así como la mayoría de la gente compra cosas; ni siquiera es cómo la gente rica compra cosas, ya que no es una excelente manera de mantenerse rico. En cambio, la mayoría de las personas miran lo que quieren hacer con una computadora y luego encuentran una computadora que tiene el hardware adecuado.

En el mercado local, hay una cantidad decente de opciones, pero una vez que llega al mercado de estaciones de trabajo y servidores, hay algunas opciones aún más poderosas por aún más dinero. Por ejemplo, la mejor PC que puede construir en casa admite 16 núcleos ( o 24 si cuenta los núcleos de eficiencia de Intel ). También puede obtener una potente GPU. Técnicamente, puede obtener múltiples GPU potentes, pero no puede usarlas juntas, ya que SLI/NVLINK está esencialmente muerto.

En el mercado de servidores y estaciones de trabajo, puede obtener muchos más núcleos en una CPU, hasta 96 en la línea EPYC de AMD. También puede obtener GPU con interconexiones más capaces y más VRAM. Sin embargo, los núcleos de CPU son donde se gasta mucho dinero, especialmente en los mundos de HPC ( Computación de alto rendimiento ), Hiperescalador y Supercomputación. Entonces, ¿qué hace si necesita más de 96 núcleos en una computadora? Agregue más CPU, obviamente.

Placas base de múltiples zócalos

Por supuesto, no puede colocar una segunda CPU en cualquier placa base antigua; no habría adónde ir. Necesita hardware específico. AMD admite la posibilidad de que dos de sus CPU de servidor EPYC se coloquen en la misma placa base. Eso ofrece un total de 192 núcleos o 384 hilos. Las últimas CPU de servidor de Intel alcanzaron un máximo de 40 núcleos, aunque la generación anterior presentaba un modelo de 56 núcleos. Sin embargo, Intel admite hasta 8 CPU en una sola placa base. Eso es 320 o 448 núcleos y 640 o 896 subprocesos. Si bien esto es excesivo para verificar Instagram, algunas cargas de trabajo pueden usar toda esta potencia.

El problema viene de memoria. Cuatro cosas generalmente limitan las CPU. La primera es la falta de cosas que hacer; a veces, la CPU simplemente no está cargada. Luego, tiene energía, solo hay tanta energía que puede consumir antes de comenzar a dañar la CPU, y existen límites para garantizar que la CPU no corra el riesgo de quemarse cuando está a plena carga. También tienes la presión de la temperatura muy relacionada, cuanta más energía usas, más calor generas y tienes que disipar; el sobrecalentamiento es tan malo como el exceso de energía cuando las cosas comienzan a derretirse. La otra limitación es el acceso a la memoria.

Una CPU normalmente necesita una gran cantidad de datos para realizar una gran cantidad de procesamiento. Todo eso está almacenado en la memoria RAM. Desafortunadamente, la RAM es bastante lenta en comparación con una CPU. Esto puede dejarlo inactivo durante "edades" antes de que obtenga los datos que necesita para operar. La memoria caché de la CPU ayuda mucho, pero es tan pequeña que no puede cubrir todo, y es necesario acceder a la memoria principal.

Latencia de memoria

Para minimizar el efecto de que la RAM sea lenta, se coloca físicamente lo más cerca posible de la CPU. Esta es la razón por la que la RAM siempre se encuentra directamente al lado del zócalo de la CPU en una placa base. Pero, ¿qué sucede si tiene varias CPU en una sola placa base? Luego, hay un tiempo de acceso diferente para que una CPU acceda a su memoria en comparación con la memoria contigua a otra. "Oh, no", podría decir, "algunos recuerdos son un poco más lentos". Pero este es un problema real que puede tener un efecto sorprendentemente profundo en el rendimiento. Este concepto se denomina acceso a memoria no uniforme o NUMA.

NUMA implica proporcionar un mecanismo para que el sistema operativo comprenda que, si bien puede acceder a toda la memoria, algunas partes son preferidas para ciertas cosas sobre otras. Siempre que sea posible, el sistema operativo almacena los datos de las tareas que se ejecutan en la CPU1 en la RAM directamente junto a la CPU1. De manera similar, los datos necesarios para una tarea que se ejecuta en la CPU2 se almacenan en la RAM directamente al lado de la CPU2. Por supuesto, con capacidades de RAM limitadas y conjuntos de datos masivos, no siempre es posible permanecer dentro de estos límites. Aún así, se hacen los mejores esfuerzos y tienen un impacto significativo en el rendimiento.

El acceso a la memoria sobre un solo canal también es secuencial. Esto significa que cuando dos CPU diferentes intentan acceder a los datos en el mismo canal, uno conectado directamente al DIMM y el otro NUMA, la segunda solicitud no solo tiene que esperar, inactiva, su solicitud, sino también la solicitud del otro. procesador. Como tal, siempre que sea posible, los datos deben almacenarse en la RAM directamente al lado de la CPU que los necesitará.

Conclusión

NUMA significa Acceso a memoria no uniforme. Es un término utilizado en sistemas informáticos con varias CPU físicas. Se refiere al hecho de que una CPU tendrá una latencia de memoria diferente a la RAM que la rodea directamente en comparación con la RAM que rodea a otra CPU. La latencia adicional reduce el rendimiento del sistema de varias maneras. NUMA es una forma de informar al sistema operativo que este es el caso.

Le permite optimizar el uso de la memoria y la ubicación de los datos en función de la CPU que necesita los datos. Siempre que sea posible, todos los datos de los procesos que se ejecutan en una CPU se almacenan en la memoria RAM conectada directamente a esa CPU. Cuando la RAM local no tiene suficiente capacidad, los datos pueden desbordarse en la RAM alrededor de otras CPU. Siempre que sea posible, la cantidad de saltos NUMA se minimiza para reducir la latencia.