นูมาคืออะไร?

หากเงินไม่ใช่ปัญหา คุณสามารถซื้อชิ้นส่วนพีซีสำหรับผู้บริโภคที่แพงที่สุดและสร้างพีซีที่ทรงพลังเพื่อเช็คอีเมลและเลื่อนดูโซเชียลมีเดีย แน่นอนว่านี่ไม่ใช่วิธีที่คนส่วนใหญ่ซื้อของ มันไม่ได้ขึ้นอยู่กับว่าคนรวยซื้อของต่างๆ กันอย่างไร เพราะมันไม่ใช่วิธีที่ดีในการคงความร่ำรวย คนส่วนใหญ่มองว่าพวกเขาต้องการทำอะไรกับคอมพิวเตอร์ แล้วค้นหาคอมพิวเตอร์ที่มีฮาร์ดแวร์ที่เหมาะสม

ในตลาดโฮมมีตัวเลือกมากมายพอสมควร แต่เมื่อคุณเข้าสู่ตลาดเวิร์กสเตชันและเซิร์ฟเวอร์แล้ว มีตัวเลือกที่มีประสิทธิภาพมากกว่าสำหรับเงินที่มากขึ้น ตัวอย่างเช่น พีซีที่ดีที่สุดที่คุณสามารถสร้างได้เองที่บ้านนั้นรองรับ 16 คอร์ ( หรือ 24 คอร์ถ้าคุณนับประสิทธิภาพของคอร์ของ Intel ) คุณยังสามารถรับ GPU ที่ทรงพลังได้อีกด้วย ในทางเทคนิคแล้ว คุณสามารถรับ GPU ที่ทรงพลังได้หลายตัว แต่คุณไม่สามารถใช้ร่วมกันได้ เนื่องจาก SLI/NVLINK นั้นตายไปแล้ว

ในตลาดเซิร์ฟเวอร์และเวิร์กสเตชัน คุณสามารถรับคอร์ได้มากขึ้นใน CPU มากถึง 96 ในกลุ่มผลิตภัณฑ์ EPYC ของ AMD คุณยังสามารถรับ GPU ที่มีการเชื่อมต่อระหว่างกันที่มีความสามารถมากขึ้นและ VRAM ที่มากขึ้น แม้ว่า CPU cores จะเป็นเงินจำนวนมาก โดยเฉพาะในโลกของ HPC ( High-Performance Computing ), Hyperscaler และ Supercomputing แล้วคุณจะทำอย่างไรถ้าคุณต้องการมากกว่า 96 คอร์ในคอมพิวเตอร์เครื่องเดียว? เพิ่ม CPU มากขึ้นอย่างเห็นได้ชัด

เมนบอร์ดหลายซ็อกเก็ต

แน่นอน คุณไม่สามารถตบ CPU ตัวที่สองบนเมนบอร์ดตัวเก่าได้ มันจะไม่มีที่ไป คุณต้องการฮาร์ดแวร์เฉพาะ AMD รองรับความสามารถของ CPU เซิร์ฟเวอร์ EPYC สองตัวที่จะวางบนเมนบอร์ดเดียวกัน ซึ่งมีทั้งหมด 192 คอร์หรือ 384 เธรด CPU เซิร์ฟเวอร์ล่าสุดของ Intel สูงสุดที่ 40 คอร์ แม้ว่ารุ่นก่อนหน้าจะมีรุ่น 56 คอร์ อย่างไรก็ตาม Intel รองรับซีพียูสูงสุด 8 ตัวบนเมนบอร์ดเดียว นั่นคือ 320 หรือ 448 คอร์และ 640 หรือ 896 เธรด แม้ว่าสิ่งนี้จะเกินความจำเป็นในการตรวจสอบ Instagram แต่ปริมาณงานบางอย่างสามารถใช้แรงม้าทั้งหมดนี้ได้

ปัญหามาจากหน่วยความจำ สี่สิ่งที่จำกัดซีพียูโดยทั่วไป ประการแรกคือการขาดสิ่งที่ต้องทำ บางครั้ง CPU ก็ไม่โหลด ต่อไป คุณมีพลังงาน มีเพียงพลังมากเท่านั้นที่คุณสามารถวาดได้ก่อนที่คุณจะเริ่มสร้างความเสียหายให้กับ CPU และมีขีดจำกัดเพื่อให้แน่ใจว่า CPU จะไม่เสี่ยงต่อการไหม้เมื่อโหลดเต็ม คุณยังมีความดันอุณหภูมิที่สัมพันธ์กันอย่างใกล้ชิด ยิ่งคุณใช้พลังงานมากเท่าไหร่ คุณก็ยิ่งสร้างความร้อนมากขึ้นและต้องกระจายออกไป ความร้อนสูงเกินไปนั้นแย่พอๆ กับพลังงานที่มากเกินไปเมื่อสิ่งต่างๆ เริ่มละลาย ข้อจำกัดอื่นๆ คือการเข้าถึงหน่วยความจำ

โดยทั่วไปแล้ว CPU ต้องการข้อมูลจำนวนมากเพื่อดำเนินการประมวลผลจำนวนมาก ทั้งหมดนี้ถูกเก็บไว้ใน RAM น่าเสียดายที่ RAM ค่อนข้างช้าเมื่อเทียบกับ CPU สิ่งนี้สามารถปล่อยให้ "อายุ" ว่างก่อนที่จะได้รับข้อมูลที่จำเป็นในการดำเนินการ แคช CPU ช่วยได้มาก แต่มีขนาดเล็กจนไม่สามารถครอบคลุมทุกอย่างได้ และจำเป็นต้องเข้าถึงหน่วยความจำหลัก

แฝงหน่วยความจำ

เพื่อลดผลกระทบของ RAM ที่ช้าลง ให้วางไว้ใกล้กับ CPU มากที่สุดเท่าที่จะเป็นไปได้ นี่คือสาเหตุที่ RAM อยู่ติดกับซ็อกเก็ต CPU บนเมนบอร์ดเสมอ แต่จะเกิดอะไรขึ้นถ้าคุณมี CPU หลายตัวบนเมนบอร์ดตัวเดียว จากนั้นมีเวลาเข้าถึงที่แตกต่างกันสำหรับ CPU ในการเข้าถึงหน่วยความจำเมื่อเทียบกับหน่วยความจำที่อยู่ติดกัน “ไม่นะ” คุณอาจพูดว่า “ความจำบางอย่างช้ากว่าเล็กน้อย” แต่นี่เป็นปัญหาที่เกิดขึ้นจริงซึ่งอาจมีผลกระทบอย่างมากต่อประสิทธิภาพอย่างน่าประหลาดใจ แนวคิดนี้เรียกว่า Non-Uniform Memory Access หรือ NUMA

NUMA เกี่ยวข้องกับการจัดเตรียมกลไกสำหรับระบบปฏิบัติการเพื่อทำความเข้าใจว่าแม้ว่ามันจะสามารถเข้าถึงหน่วยความจำทั้งหมดได้ แต่บางส่วนก็ต้องการสำหรับบางสิ่งมากกว่าส่วนอื่นๆ หากเป็นไปได้ ระบบปฏิบัติการจะจัดเก็บข้อมูลสำหรับงานที่ทำงานบน CPU1 ใน RAM ถัดจาก CPU1 โดยตรง ในทำนองเดียวกัน ข้อมูลที่จำเป็นสำหรับงานที่ทำงานบน CPU2 จะถูกจัดเก็บไว้ใน RAM ถัดจาก CPU2 โดยตรง แน่นอนว่าด้วยความจุของ RAM ที่จำกัดและชุดข้อมูลขนาดใหญ่ การอยู่ภายในขอบเขตเหล่านี้จึงเป็นไปไม่ได้เสมอไป ยังคงมีความพยายามอย่างเต็มที่และมีผลกระทบอย่างมากต่อประสิทธิภาพกา��ทำงาน

การเข้าถึงหน่วยความจำผ่านช่องทางเดียวก็เป็นไปตามลำดับเช่นกัน ซึ่งหมายความว่าเมื่อ CPU สองตัวที่ต่างกันพยายามเข้าถึงข้อมูลบนช่องสัญญาณเดียวกัน ตัวหนึ่งเชื่อมต่อโดยตรงกับ DIMM และอีกตัวหนึ่ง NUMA ข้ามไป คำขอที่สองไม่เพียงแต่ต้องรอ ว่าง สำหรับคำขอเท่านั้น แต่ยังรวมถึงคำขอของอีกตัวด้วย โปรเซสเซอร์ ดังนั้น หากเป็นไปได้ ข้อมูลควรเก็บไว้ใน RAM โดยตรง ถัดจาก CPU ที่จะต้องใช้

บทสรุป

NUMA ย่อมาจาก Non-Uniform Memory Access เป็นคำที่ใช้ในระบบคอมพิวเตอร์ที่มี CPU หลายตัว มันหมายถึงความจริงที่ว่า CPU หนึ่งตัวจะมีเวลาแฝงของหน่วยความจำที่แตกต่างกันไปยัง RAM ที่ล้อมรอบโดยตรง เมื่อเทียบกับ RAM ที่ล้อมรอบ CPU อื่น เวลาแฝงพิเศษลดประสิทธิภาพของระบบในหลายวิธี NUMA เป็นวิธีการแจ้งให้ระบบปฏิบัติการทราบว่าเป็นกรณีนี้

ช่วยให้สามารถเพิ่มประสิทธิภาพการใช้หน่วยความจำและตำแหน่งข้อมูลตาม CPU ที่ต้องการข้อมูล หากเป็นไปได้ ข้อมูลทั้งหมดสำหรับกระบวนการที่ทำงานบน CPU จะถูกจัดเก็บไว้ใน RAM ที่เชื่อมต่อโดยตรงกับ CPU นั้น เมื่อ RAM ในเครื่องมีความจุไม่เพียงพอ ข้อมูลอาจทะลักเข้าสู่ RAM รอบๆ CPU อื่นๆ หากเป็นไปได้ จำนวนของ NUMA ฮ็อปจะลดลงเพื่อลดเวลาแฝง