NUMA란?

돈이 문제가 아니라면 가장 비싼 소비자용 PC 부품을 모두 구입하고 강력한 PC를 만들어 이메일을 확인하고 소셜 미디어를 스크롤할 수 있습니다. 물론 이것은 대부분의 사람들이 물건을 사는 방식이 아닙니다. 부자를 유지하는 훌륭한 방법이 아니기 때문에 부자가 물건을 사는 방법도 아닙니다 . 대신 대부분의 사람들은 컴퓨터로 무엇을 하고 싶은지 살펴본 다음 적합한 하드웨어가 있는 컴퓨터를 찾습니다.

국내 시장에는 선택의 폭이 상당하지만 일단 워크스테이션 및 서버 시장에 진출하면 훨씬 더 많은 비용을 지불할 수 있는 훨씬 더 강력한 옵션이 있습니다. 예를 들어 집에서 만들 수 있는 최고의 PC는 16개 코어( 또는 Intel의 효율성 코어를 포함하면 24개 )를 지원합니다. 강력한 GPU를 얻을 수도 있습니다. 기술적으로는 여러 개의 강력한 GPU를 얻을 수 있지만 SLI/NVLINK가 본질적으로 죽었기 때문에 함께 사용할 수는 없습니다.

서버 및 워크스테이션 시장에서는 AMD의 EPYC 라인업에서 최대 96개까지 CPU에서 훨씬 더 많은 코어를 얻을 수 있습니다. 더 많은 상호 연결과 더 많은 VRAM을 갖춘 GPU를 얻을 수도 있습니다. 그러나 CPU 코어는 특히 HPC( 고성능 컴퓨팅 ), 하이퍼스케일러 및 슈퍼컴퓨팅 세계 에서 많은 돈이 들어가는 곳입니다 . 그렇다면 한 컴퓨터에 96개 이상의 코어가 필요한 경우 어떻게 해야 할까요? 분명히 더 많은 CPU를 추가하십시오.

멀티 소켓 마더보드

물론 구형 마더보드에 두 번째 CPU를 장착할 수는 없습니다. 갈 곳이 없을 것입니다. 특정 하드웨어가 필요합니다. AMD는 두 개의 EPYC 서버 CPU를 동일한 마더보드에 배치할 수 있는 기능을 지원합니다. 총 192개의 코어 또는 384개의 스레드를 제공합니다. Intel의 최신 서버 CPU는 이전 세대가 56코어 모델을 제공했지만 최대 40코어였습니다. 그러나 Intel은 단일 마더보드에서 최대 8개의 CPU를 지원합니다. 320 또는 448개의 코어와 640 또는 896개의 스레드입니다. 이것은 Instagram을 확인하기에는 과하지만 일부 워크로드는 이 모든 마력을 사용할 수 있습니다.

문제는 기억에서 온다. 네 가지가 일반적으로 CPU를 제한합니다. 첫 번째는 할 일이 없다는 것입니다. 때로는 CPU가 로드되지 않습니다. 다음으로, 전력이 있고, CPU 손상을 시작하기 전에 끌어낼 수 있는 전력이 제한되어 있으며, 최대 부하 상태에서 CPU가 소진될 위험이 없도록 제한이 있습니다. 또한 밀접하게 관련된 온도 압력이 있습니다. 더 많은 전력을 사용할수록 더 많은 열을 생성하고 발산해야 합니다. 과열은 물건이 녹기 시작할 때 너무 많은 전력만큼 나쁩니다. 다른 제한 사항은 메모리 액세스입니다.

CPU는 일반적으로 많은 처리를 수행하기 위해 많은 데이터가 필요합니다. 그 모든 것은 RAM에 저장됩니다. 불행히도 RAM은 CPU에 비해 ​​상당히 느립니다. 이것은 작동에 필요한 데이터를 얻기 전에 "오래" 동안 유휴 상태로 둘 수 있습니다. CPU 캐시는 많은 도움이 되지만 너무 작아서 모든 것을 처리할 수 없으며 메인 메모리에 액세스해야 합니다.

메모리 대기 시간

RAM이 느려지는 효과를 최소화하기 위해 물리적으로 가능한 한 CPU에 가깝게 배치됩니다. 이것이 RAM이 항상 마더보드의 CPU 소켓 바로 옆에 있는 이유입니다. 그러나 단일 마더보드에 여러 개의 CPU가 있는 경우 어떻게 됩니까? 그런 다음 CPU가 다른 메모리 옆에 있는 메모리와 비교하여 메모리에 액세스하는 데 다른 액세스 시간이 있습니다. "아뇨," "일부 메모리가 약간 더 느립니다."라고 말할 수 있습니다. 그러나 이것은 성능에 놀랍도록 심오한 영향을 미칠 수 있는 실제 문제입니다. 이 개념을 NUMA(Non-Uniform Memory Access)라고 합니다.

NUMA는 운영 체제가 모든 메모리에 액세스할 수 있지만 특정 부분이 다른 것보다 선호된다는 것을 이해하는 메커니즘을 제공하는 것과 관련됩니다. 가능한 경우 OS는 CPU1에서 실행되는 작업에 대한 데이터를 CPU1 바로 옆의 RAM에 저장합니다. 마찬가지로 CPU2에서 실행되는 작업에 필요한 데이터는 CPU2 바로 옆의 RAM에 저장됩니다. 물론 제한된 RAM 용량과 대용량 데이터 세트로 인해 이러한 제한 내에 머무르는 것이 항상 가능한 것은 아닙니다. 그럼에도 불구하고 최선의 노력이 이루어지며 성능에 상당한 영향을 미칩니다.

단일 채널을 통한 메모리 액세스도 순차적입니다. 이것은 두 개의 서로 다른 CPU가 동일한 채널의 데이터에 액세스하려고 시도할 때 하나는 DIMM에 직접 연결되고 다른 하나는 NUMA가 건너뛰면 두 번째 요청은 자신의 요청뿐만 아니라 다른 쪽의 요청도 기다려야 한다는 것을 의미합니다. 프로세서. 따라서 가능하면 데이터를 필요로 하는 CPU 바로 옆의 RAM에 데이터를 저장해야 합니다.

결론

NUMA는 Non-Uniform Memory Access의 약자입니다. 물리적 CPU가 여러 개인 컴퓨터 시스템에서 사용되는 용어입니다. 이는 하나의 CPU가 다른 CPU를 둘러싼 RAM과 비교하여 CPU를 직접 둘러싼 RAM에 대해 다른 메모리 대기 시간을 갖는다는 사실을 나타냅니다. 추가 대기 시간은 여러 방식으로 시스템 성능을 저하시킵니다. NUMA는 운영 체제에 이를 알리는 방법입니다.

데이터가 필요한 CPU를 기반으로 메모리 사용량과 데이터 지역성을 최적화할 수 있습니다. 가능한 경우 CPU에서 실행되는 프로세스의 모든 데이터는 해당 CPU에 직접 연결된 RAM에 저장됩니다. 로컬 RAM의 용량이 충분하지 않으면 데이터가 다른 CPU 주변의 RAM으로 넘칠 수 있습니다. 다시 가능한 경우 대기 시간을 줄이기 위해 NUMA 홉 수가 최소화됩니다.