NUMAとは

お金が問題にならない場合は、最も高価な消費者向け PC 部品をすべて購入して、電子メールをチェックしたり、ソーシャルメディアをスクロールしたりできる強力な PC を構築できます。もちろん、これはほとんどの人が物を買う方法ではありません。金持ちであり続けるための優れた方法ではないため、金持ちが物を買う方法でさえありません。代わりに、ほとんどの人は、コンピューターで何をしたいのかを見て、適切なハードウェアを備えたコンピューターを見つけます。

家庭用市場ではかなりの数の選択肢がありますが、ワークステーションとサーバー市場に到達すると、さらに多くのお金を稼ぐためのさらに強力なオプションがいくつかあります. たとえば、自宅で構築できる最高の PC は 16 コア ( Intel の効率コアを数えると 24 コア) をサポートします。強力な GPU も入手できます。技術的には、複数の強力な GPU を入手できますが、SLI/NVLINK は本質的に機能していないため、それらを一緒に使用することはできません。

サーバーおよびワークステーション市場では、AMD の EPYC ラインナップで最大 96 個の CPU ではるかに多くのコアを入手できます。より高性能な相互接続とより多くの VRAM を備えた GPU を入手することもできます。ただし、CPU コアは、特に HPC (ハイパフォーマンスコンピューティング)、ハイパースケーラー、およびスーパーコンピューティングの世界で、多くのお金が使われる場所です。では、1 台のコンピューターに 96 個を超えるコアが必要な場合はどうすればよいでしょうか? 明らかに、CPU を追加します。

マルチソケットマザーボード

もちろん、古いマザーボードに 2 つ目の CPU を平手打ちすることはできません。行き場がないだろう。特定のハードウェアが必要です。AMD は、2 つの EPYC サーバー CPU を同じマザーボードに配置する機能をサポートしています。これにより、合計 192 コアまたは 384 スレッドが提供されます。Intel の最新のサーバー CPU は 40 コアで最大でしたが、前世代では 56 コアモデルが特徴でした。ただし、Intel は 1 つのマザーボードで最大 8 つの CPU をサポートします。それは 320 または 448 コアと 640 または 896 スレッドです。これは Instagram をチェックするにはやり過ぎですが、一部のワークロードではこの馬力をすべて使用できます。

問題はメモリに由来します。一般に、CPU を制限する 4 つの要因があります。1 つ目は、やるべきことがないことです。場合によっては、CPU がロードされていないだけです。次に、電力があります。CPU に損傷を与える前に引き出すことができる電力は限られています。また、全負荷時に CPU が燃え尽きる危険がないように制限が設けられています。また、密接に関連する温度圧力もあります。使用する電力が多いほど、発生する熱が多くなり、放散する必要があります。過熱は、物が溶け始めるのと同じくらい電力が多すぎるのと同じくらい悪いです。もう 1 つの制限は、メモリアクセスです。

CPU は通常、多くの処理を実行するために大量のデータを必要とします。そのすべてがRAMに保存されます。残念ながら、RAM は CPU に比べてかなり遅いです。これにより、操作に必要なデータを取得する前に、「一定期間」アイドル状態になる可能性があります。CPU キャッシュは非常に役立ちますが、小さすぎてすべてをカバーすることはできず、メインメモリにアクセスする必要があります。

メモリレイテンシ

RAM が遅いことによる影響を最小限に抑えるために、RAM は物理的にできるだけ CPU の近くに配置されます。これが、RAM が常にマザーボードの CPU ソケットのすぐ隣にある理由です。しかし、単一のマザーボードに複数の CPU がある場合はどうなるでしょうか? 次に、CPUがメモリにアクセスするためのアクセス時間は、隣接するメモリと比較して異なります。「いや、一部のメモリは少し遅い」と言うかもしれません。しかし、これは実際の問題であり、パフォーマンスに驚くほど深刻な影響を与える可能性があります。この概念は、Non-Uniform Memory Access (NUMA) と呼ばれます。

NUMA には、オペレーティングシステムがすべてのメモリにアクセスできる一方で、特定の部分が他の部分よりも優先されることを理解するためのメカニズムを提供する必要があります。可能な場合、OS は CPU1 で実行されているタスクのデータを CPU1 のすぐ隣の RAM に保存します。同様に、CPU2 で実行されるタスクに必要なデータは、CPU2 のすぐ隣の RAM に格納されます。もちろん、限られた RAM 容量と大規模なデータセットでは、これらの制限内にとどまることが常に可能であるとは限りません。それでも、最善の努力がなされ、パフォーマンスに大きな影響を与えます。

1 つのチャネルを介したメモリアクセスもシーケンシャルです。これは、2 つの異なる CPU が同じチャネルでデータにアクセスしようとすると、1 つは DIMM に直接接続され、もう 1 つは NUMA ホップで離れている場合、2 番目の要求はその要求を待機するだけでなく、もう 1 つの要求もアイドル状態で待機する必要があることを意味します。プロセッサ。そのため、可能な限り、データを必要とする CPU のすぐ隣の RAM にデータを保存する必要があります。

結論

NUMA は Non-Uniform Memory Access の略です。これは、複数の物理 CPU を備えたコンピューターシステムで使用される用語です。これは、1 つの CPU が、別の CPU を囲む RAM と比較して、それを直接囲む RAM に対して異なるメモリレイテンシを持つという事実を指します。余分な待ち時間は、さまざまな点でシステムパフォーマンスを低下させます。NUMA は、これが事実であることをオペレーティングシステムに通知する方法です。

データを必要とする CPU に基づいて、メモリ使用量とデータの局所性を最適化できます。可能な場合、CPU で実行されているプロセスのすべてのデータは、その CPU に直接接続されている RAM に保存されます。ローカル RAM に十分な容量がない場合、データが他の CPU の周囲の RAM にあふれ出す可能性があります。ここでも、可能であれば、NUMA ホップの数が最小限に抑えられて、待ち時間が短縮されます。