Was ist NUMA?

Wenn Geld keine Rolle spielt, können Sie die teuersten PC-Teile für Verbraucher kaufen und einen mächtigen PC bauen, um Ihre E-Mails zu lesen und durch soziale Medien zu scrollen. Natürlich kaufen die meisten Menschen die Dinge nicht so; Es geht nicht einmal darum, wie reiche Leute Dinge kaufen, da es keine hervorragende Möglichkeit ist, reich zu bleiben . Stattdessen schauen sich die meisten Menschen an, was sie mit einem Computer machen wollen, und finden dann einen Computer mit geeigneter Hardware.

Auf dem Heimmarkt gibt es eine anständige Auswahl, aber sobald Sie zum Workstation- und Servermarkt kommen, gibt es einige noch leistungsfähigere Optionen für noch mehr Geld. Beispielsweise unterstützt der beste PC, den Sie zu Hause bauen können, 16 Kerne ( oder 24, wenn Sie die Effizienzkerne von Intel mitzählen ). Sie können auch eine leistungsstarke GPU erhalten. Technisch gesehen können Sie mehrere leistungsstarke GPUs erhalten, aber Sie können sie nicht zusammen verwenden, da SLI/NVLINK im Wesentlichen tot ist.

Auf dem Server- und Workstation-Markt können Sie weit mehr Kerne in einer CPU bekommen, bis zu 96 in AMDs EPYC-Reihe. Sie können auch GPUs mit leistungsfähigeren Verbindungen und mehr VRAM erhalten. In CPU-Kerne fließt jedoch viel Geld, insbesondere in den Welten von HPC ( High-Performance Computing ), Hyperscaler und Supercomputing. Was tun Sie also, wenn Sie mehr als 96 Kerne in einem Computer benötigen? Fügen Sie natürlich mehr CPUs hinzu.

Multi-Socket-Motherboards

Natürlich kann man nicht einfach eine zweite CPU auf irgendein altes Motherboard hauen; es würde nirgendwo hingehen. Sie benötigen spezielle Hardware. AMD unterstützt die Möglichkeit, zwei ihrer EPYC-Server-CPUs auf demselben Motherboard zu platzieren. Das bietet insgesamt 192 Kerne oder 384 Threads. Die neuesten Server-CPUs von Intel erreichten maximal 40 Kerne, obwohl die vorherige Generation ein 56-Kern-Modell enthielt. Intel unterstützt jedoch bis zu 8 CPUs auf einem einzigen Motherboard. Das sind 320 oder 448 Kerne und 640 oder 896 Threads. Während dies für die Überprüfung von Instagram übertrieben ist, können einige Workloads all diese Leistung verbrauchen.

Das Problem kommt aus dem Gedächtnis. Vier Dinge schränken CPUs im Allgemeinen ein. Der erste ist ein Mangel an Dingen zu tun; Manchmal wird die CPU einfach nicht ausgelastet. Als nächstes haben Sie Strom, es gibt nur so viel Strom, den Sie ziehen können, bevor Sie anfangen, die CPU zu beschädigen, und es gibt Grenzwerte, um sicherzustellen, dass die CPU nicht Gefahr läuft, unter Volllast auszubrennen. Sie haben auch den eng damit verbundenen Temperaturdruck, je mehr Strom Sie verbrauchen, desto mehr Wärme erzeugen Sie und müssen abgeführt werden; Überhitzung ist genauso schlimm wie zu viel Leistung, da die Dinge anfangen zu schmelzen. Die andere Einschränkung ist der Speicherzugriff.

Eine CPU benötigt normalerweise viele Daten, um viel Verarbeitung durchzuführen. All das wird im RAM gespeichert. Leider ist RAM im Vergleich zu einer CPU ziemlich langsam. Dadurch kann es „ewig“ im Leerlauf bleiben, bevor es die Daten erhält, die es für den Betrieb benötigt. Der CPU-Cache hilft sehr, aber er ist so klein, dass er nicht alles abdecken kann, und auf den Hauptspeicher muss zugegriffen werden.

Speicherlatenz

Um den Effekt des langsamen RAM zu minimieren, wird es physisch so nah wie möglich an der CPU platziert. Deshalb befindet sich RAM auf einem Mainboard immer direkt neben dem CPU-Sockel. Aber was passiert, wenn Sie mehrere CPUs auf einem einzigen Motherboard haben? Dann gibt es eine andere Zugriffszeit für eine CPU, um auf ihren Speicher zuzugreifen, verglichen mit dem Speicher neben einer anderen. „Oh nein“, sagen Sie vielleicht, „einige Speicher sind etwas langsamer.“ Dies ist jedoch ein tatsächliches Problem, das einen überraschend tiefgreifenden Einfluss auf die Leistung haben kann. Dieses Konzept wird Non-Uniform Memory Access oder NUMA genannt.

NUMA beinhaltet die Bereitstellung eines Mechanismus für das Betriebssystem, um zu verstehen, dass es zwar auf den gesamten Speicher zugreifen kann, einige Teile jedoch für bestimmte Dinge gegenüber anderen bevorzugt werden. Wenn möglich, speichert das Betriebssystem dann Daten für Aufgaben, die auf CPU1 ausgeführt werden, im RAM direkt neben CPU1. In ähnlicher Weise werden Daten, die für eine auf CPU2 laufende Aufgabe erforderlich sind, im RAM direkt neben CPU2 gespeichert. Natürlich ist es bei begrenzten RAM-Kapazitäten und riesigen Datensätzen nicht immer möglich, diese Grenzen einzuhalten. Dennoch werden die besten Anstrengungen unternommen und haben einen erheblichen Einfluss auf die Leistung.

Der Speicherzugriff über einen einzigen Kanal ist ebenfalls sequentiell. Dies bedeutet, dass, wenn zwei verschiedene CPUs versuchen, auf Daten auf demselben Kanal zuzugreifen, von denen eine direkt mit dem DIMM verbunden ist und die andere NUMA entfernt, die zweite Anforderung nicht nur im Leerlauf auf ihre Anforderung warten muss, sondern auch auf die Anforderung der anderen Prozessor. Daher sollten Daten nach Möglichkeit im RAM direkt neben der CPU gespeichert werden, die sie benötigen.

Abschluss

NUMA steht für Non-Uniform Memory Access. Es ist ein Begriff, der in Computersystemen mit mehreren physischen CPUs verwendet wird. Es bezieht sich auf die Tatsache, dass eine CPU eine andere Speicherlatenz zu dem RAM hat, das sie direkt umgibt, verglichen mit dem RAM, der eine andere CPU umgibt. Die zusätzliche Latenz verringert die Systemleistung auf verschiedene Weise. NUMA ist eine Möglichkeit, das Betriebssystem darüber zu informieren, dass dies der Fall ist.

Es ermöglicht es, die Speichernutzung und die Datenlokalität basierend auf der CPU zu optimieren, die die Daten benötigt. Wenn möglich, werden alle Daten für die Prozesse, die auf einer CPU ausgeführt werden, in dem RAM gespeichert, das direkt mit dieser CPU verbunden ist. Wenn der lokale RAM nicht über genügend Kapazität verfügt, können Daten in den RAM um andere CPUs herum überlaufen. Auch hier wird die Anzahl der NUMA-Hops nach Möglichkeit minimiert, um die Latenz zu reduzieren.