หน่วยความจำ Scratchpad คืออะไร?

การเข้าถึงข้อมูลเป็นส่วนสำคัญของการออกแบบซีพียู ซีพียูทำงานด้วยความเร็วสูงมาก ประมวลผลหลายคำสั่งในแต่ละรอบสัญญาณนาฬิกา ดังนั้นจึงจำเป็นต้องเข้าถึงข้อมูลจำนวนมาก ข้อมูลส่วนใหญ่นั้นถูกจัดเก็บไว้ในสื่อบันทึกข้อมูล อย่างไรก็ตาม อุปกรณ์จัดเก็บข้อมูลนั้นช้าอย่างไม่น่าเชื่อเมื่อเทียบกับซีพียู นอกจากนี้ อุปกรณ์จัดเก็บข้อมูลยังสามารถอ่านตามลำดับได้ดีกว่าการอ่านแบบสุ่ม แม้ว่า SSD จะให้การปรับปรุงที่ชัดเจนในเรื่องนี้ (และอื่น ๆ อีกมากมาย) เหนือ HDD

System RAM ได้รับการออกแบบมาให้โหลดข้อมูลทั้งหมดที่ CPU อาจต้องการสำหรับซอฟต์แวร์ที่กำลังทำงานอยู่ RAM มีเวลาแฝงต่ำกว่าที่เก็บข้อมูลอย่างมาก นอกจากนี้ยังได้รับการออกแบบมาเป็นพิเศษเพื่อให้มีประสิทธิภาพการอ่านแบบสุ่มสูง ถึงกระนั้น RAM สมัยใหม่ก็เร็วพอๆ กัน แต่ก็ยังไม่มีอะไรเทียบได้กับ CPU ที่มีเวลาแฝงตามลำดับที่ 400 รอบสัญญาณนาฬิกา

เพื่อลดเวลาแฝง CPU สมัยใหม่ส่วนใหญ่มีชั้นของหน่วยความจำแคช โดยทั่วไป จะเรียกว่าแคช L1, L2 และ L3 L1 เป็นความเร็วที่สูงมาก โดยทั่วไปแล้วจะใช้เวลาประมาณ 5 รอบสัญญาณนาฬิกาในการเข้าถึง L2 ช้าลงเล็กน้อยตามลำดับ 20 รอบ L3 ช้ากว่าด้วยซ้ำที่ประมาณ 200 รอบ แม้ว่า L1 จะเร็วอย่างเหลือเชื่อ แต่ก็มีขนาดเล็กเช่นกัน ความเร็วส่วนใหญ่มาจากการที่แคชขนาดเล็กใช้เวลาในการค้นหาน้อยลง L2 ใหญ่กว่า L1 แต่เล็กกว่า L3 ซึ่งยังเล็กกว่า RAM ของระบบ ความสมดุลของขนาดของแคชเหล่านี้เป็นสิ่งสำคัญในการรับ CPU ประสิทธิภาพสูง อัตราส่วนการเข้าชมแคชมีความสำคัญ แต่คุณต้องรักษาสมดุลระหว่างจำนวนการเข้าชมกับระยะเวลาที่ต้องใช้จึงจะได้การเข้าชมนั้น ดังนั้นระดับ

หน่วยความจำ Scratchpad

โปรดทราบว่าหน่วยความจำของ scratchpad ไม่พอดีกับลำดับชั้นของหน่วยความจำแบบดั้งเดิม นั่นเป็นเพราะมันไม่ได้ใช้ใน CPU ของผู้บริโภคส่วนใหญ่ หน่วยความจำ Scratchpad ได้รับการออกแบบมาให้ใช้งานได้เหมือน Scratchpad ในชีวิตจริง คุณจดบันทึกข้อมูลชั่วคราวที่คุณต้องจำ แต่ไม่จำเป็นต้องเก็บถาวร หลายครั้งที่ CPU ประมวลผลข้อมูลแล้วต้องการผลลัพธ์นั้นอีกครั้งในทันที สามารถคัดลอกไปยังหน่วยความจำได้ แต่เพื่อให้สามารถเข้าถึงได้อย่างรวดเร็ว ควรเก็บไว้ในแคชด้วย

หน่วยความจำ Scratchpad เติมเต็มช่องว่างเดียวกันกับแคช L1 เข้าถึงได้เร็วที่สุดเท่าที่จะเป็นไปได้ โดยมักจะเป็นการนับรอบแบบเลขหลักเดียว เพื่อจัดการสิ่งนี้ มันค่อนข้างเล็กเช่นกัน มีความแตกต่างที่สำคัญสองประการระหว่างหน่วยความจำ L1 และ scratchpad ประการแรก หน่วยความจำ scratchpad สามารถระบุตำแหน่งได้โดยตรง ประการที่สอง มันถูกแบ่งปันระหว่างคอร์และโปรเซสเซอร์ทั้งหมด

ความแตกต่างระหว่างแคชและสแครชแพด

แคชของ CPU นั้นโปร่งใสสำหรับ CPU โดยพื้นฐานแล้ว แคชของ CPU ไม่สามารถจงใจใส่ข้อมูลลงในนั้น และไม่สามารถตั้งโปรแกรมเนื้อหาของแคชได้ แต่ CPU จะร้องขอข้อมูลจาก RAM และเกิดขึ้นเพื่อให้ข้อมูลกลับมาเร็วขึ้น ซึ่งบางครั้งก็เร็วกว่าที่คาดไว้มาก การอนุญาตให้ระบุที่อยู่ของ scratchpad ได้หมายความว่ารหัสสามารถระบุได้อย่างชัดเจนว่าข้อมูลใดควรอยู่ใน scratchpad สิ่งนี้มีประโยชน์แม้ว่าอัลกอริธึมการแคชสมัยใหม่จะยอดเยี่ยมด้วยอัตราการเข้าชม 95-97% ที่คาดหวังในปริมาณงานมาตรฐาน

แคช L1 จะถูกล็อกไว้ที่คอร์ประมวลผลแต่ละคอร์เสมอ ไม่มีแกนประมวลผลอื่นใดที่สามารถเข้าถึงได้ ซึ่งหมายความว่าหากหลายคอร์ต้องการข้อมูลเดียวกัน พวกเขาอาจทำซ้ำในแคช L1 ที่เกี่ยวข้อง ในบางสถาปัตยกรรม CPU L2 เป็นแบบต่อคอร์ ส่วนแบบอื่นๆ จะใช้ร่วมกันจำนวนเล็กน้อยหรือแม้แต่คอร์ทั้งหมด L3 มีแนวโน้มที่จะแชร์โดยคอร์ทั้งหมด การแชร์แคชระหว่างคอร์ทำให้สองคอร์ขึ้นไปสามารถเข้าถึงข้อมูลเดียวกันโดยไม่ทำข้อมูลซ้ำ นอกจากนี้ยังอนุญาตให้หนึ่งคอร์ใช้มากกว่าส่วนแบ่งที่ยุติธรรมเมื่อมีความจำเป็นและแคชมีพื้นที่ว่าง

Scratchpad ทำหน้าที่คล้ายกับ L1 ในแง่ของความเร็วและความจุ แต่จะใช้ร่วมกันระหว่างคอร์ทั้งหมด ซึ่งช่วยให้เข้าถึงข้อมูลเฉพาะที่กำลังดำเนินการในปริมาณงานแบบมัลติเธรดได้อย่างรวดเร็ว หน่วยความจำ Scratchpad สามารถใช้ร่วมกันระหว่าง CPU ที่แตกต่างกันบนเมนบอร์ดแบบหลายซ็อกเก็ต

ข้อเสียประการหนึ่งที่หน่วยความจำ scratchpad มีคืออาจใช้มากเกินไป การที่สามารถเข้าถึงได้โดยตรง ซอฟต์แวร์อาจอาศัยการมีอยู่ของมันในปริมาณที่แน่นอน ในกรณีนี้ จะไม่สามารถทำงานบน CPU ได้หากไม่มีหน่วยความจำ scratchpad จำนวนมาก ระดับของแคชไม่ประสบปัญหานี้ ดังนั้นจึงเหมาะกับการใช้งานทั่วไปมากกว่า

กรณีการใช้งาน

หน่วยความจำ Scratchpad มักพบในระบบเซิร์ฟเวอร์แบบหลายซ็อกเก็ตซึ่งออกแบบมาสำหรับ HPC (High-Performance Computing) ที่นั่น การผสมผสานระหว่างความเร็วและการเข้าถึงที่ใช้ร่วมกันทำให้มีประโยชน์สำหรับปริมาณงานที่ขนานกันอย่างมาก

หน่วยความจำ Scratchpad ยังเห็นการใช้งานในโปรเซสเซอร์ที่มีขนาดเล็กกว่ามาก โปรเซสเซอร์แบบฝังตัว ซึ่งมักจะเป็น MPSoC โปรเซสเซอร์แบบฝังตัวมักใช้พลังงานค่อนข้างต่ำและเหมาะสำหรับงานเฉพาะ ความเชี่ยวชาญนี้มักแสดงอยู่ในการเพิ่มประสิทธิภาพฮาร์ดแวร์ โดยเฉพาะอย่างยิ่งในระบบมัลติโปรเซสเซอร์บนชิป หน่วยความจำความเร็วสูงที่ใช้ร่วมกันอาจให้การปรับปรุงเวลาแฝงที่สำคัญสำหรับโปรเซสเซอร์หลายตัว CPU ประเภทนี้มักจะได้รับการแก้ไขอย่างมากในการออกแบบ ตัวอย่างเช่น เกมคอนโซลได้เห็นการปรับแต่งมากมายสำหรับการออกแบบฮาร์ดแวร์ ดังนั้นจึงสามารถใช้ประโยชน์จากคุณสมบัติดังกล่าวได้อย่างดีโดยไม่ต้องกังวลเกี่ยวกับความเข้ากันได้แบบย้อนกลับหรือไปข้างหน้า

บทสรุป

หน่วยความจำ Scratchpad คล้ายกับแคช L1 แต่มีความแตกต่างหลายอย่างที่เปลี่ยนกรณีการใช้งาน แทนที่จะเป็นแคช สามารถระบุตำแหน่งได้โดยตรง ทำให้สามารถกำหนดข้อมูลเฉพาะให้กับหน่วยความจำความเร็วสูงโดยเฉพาะได้ นอกจากนี้ยังใช้ร่วมกันระหว่างคอร์โปรเซสเซอร์และโปรเซสเซอร์ทั้งหมด ทำให้มีประโยชน์อย่างยิ่งในเวิร์กโหลดแบบมัลติเธรดจำนวนมาก