Nvidia GB10 Grace Blackwell Superchip เป็นระบบที่ทรงพลังบนชิป (SOC) ที่ออกแบบมาเพื่อจัดการทั้งการฝึกอบรมและการอนุมานของโมเดล AI อย่างมีประสิทธิภาพ มันเป็นศูนย์กลางของระบบเช่นตัวเลขโครงการ NVIDIA และ Asus Ascent GX10 AI SuperComputer ซึ่งมีจุดมุ่งหมายเพื่อให้การเข้าถึงการคำนวณ AI ที่มีประสิทธิภาพสูงเป็นประชาธิปไตย
ส่วนประกอบและสถาปัตยกรรมที่สำคัญ
- แกน GPU และเทนเซอร์: GB10 Superchip มี Nvidia Blackwell GPU ที่มีแกนเทนเซอร์รุ่นที่ห้า แกนเทนเซอร์เหล่านี้ได้รับการปรับให้เหมาะสมสำหรับการคูณเมทริกซ์ซึ่งเป็นสิ่งสำคัญสำหรับงานการเรียนรู้ลึก พวกเขาเพิ่มประสิทธิภาพของทั้งกระบวนการฝึกอบรมและการอนุมานอย่างมีนัยสำคัญโดยให้การประมวลผลความเร็วสูงของการคำนวณ AI ที่ซับซ้อน
-CPU: SuperChip มี CPU แขน 20-core ซึ่งประกอบด้วย 10 คอร์เท็กซ์ x925 คอร์คอร์และคอร์ซีพียู A725 10 แกน CPU นี้ช่วยเพิ่มการประมวลผลข้อมูลล่วงหน้าและการประสานข้อมูลเร่งการปรับจูนโมเดลและการอนุมานแบบเรียลไทม์ สถาปัตยกรรมแขนมีส่วนช่วยในการจัดการพลังงานและประสิทธิภาพที่มีประสิทธิภาพทำให้เหมาะสำหรับการใช้งาน Edge AI
- หน่วยความจำและการเชื่อมต่อระหว่างกัน: GB10 Superchip มีหน่วยความจำที่สอดคล้องกันแบบครบวงจร 128GB ซึ่งเป็นสิ่งจำเป็นสำหรับการจัดการโมเดล AI ขนาดใหญ่ มันใช้ NVIDIA NVLINK-C2C โดยให้โมเดลหน่วยความจำ CPU+GPU แบบเหนียวแน่นที่มีแบนด์วิดท์สูงกว่าอินเทอร์เฟซ PCIE แบบดั้งเดิมอย่างมีนัยสำคัญ สถาปัตยกรรมนี้ช่วยให้มั่นใจได้ถึงการถ่ายโอนข้อมูลที่ราบรื่นระหว่าง CPU และ GPU เพื่อเพิ่มประสิทธิภาพทั้งงานการฝึกอบรมและการอนุมาน
ความสามารถในการฝึกอบรมและการอนุมาน
- การฝึกอบรม: ในขณะที่ GB10 superchip ไม่ได้รับการออกแบบเป็นหลักเป็นชิปฝึกอบรมเฉพาะเช่น Tesla GPU ของ Nvidia แต่ก็สามารถจัดการกับต้นแบบและการปรับแต่งโมเดล AI ได้อย่างละเอียด การรวมกันของ GPU และ CPU ที่มีประสิทธิภาพสูงช่วยให้นักพัฒนาสามารถทำงานกับโมเดลขนาดเล็กถึงขนาดกลางได้โดยตรงบนเดสก์ท็อป สำหรับรุ่นที่มีขนาดใหญ่ขึ้นสามารถใช้ร่วมกับบริการคลาวด์สำหรับงานฝึกอบรมที่กว้างขวางยิ่งขึ้น
-การอนุมาน: GB10 superchip เก่งในงานการอนุมานดำเนินการดำเนินการแบบจำลองที่ผ่านการฝึกอบรมมาก่อนเพื่อทำการตัดสินใจแบบเรียลไทม์ตามข้อมูลใหม่ การรองรับความแม่นยำของ FP4 และแกนเทนเซอร์รุ่นที่ห้าช่วยให้การประมวลผลแบบจำลอง AI ได้อย่างรวดเร็วและแม่นยำทำให้เหมาะสำหรับแอปพลิเคชันที่ต้องใช้การอนุมานอย่างรวดเร็วเช่น Edge AI, หุ่นยนต์และอุปกรณ์ IoT ที่ชาญฉลาด
ความสามารถในการปรับขนาดและการปรับใช้
ทั้งตัวเลขโครงการและ Asus Ascent GX10 อนุญาตให้มีการปรับใช้แบบจำลอง AI ได้อย่างไร้รอยต่อจากสภาพแวดล้อมเดสก์ท็อปในท้องถิ่นไปจนถึงโครงสร้างพื้นฐานคลาวด์หรือศูนย์ข้อมูลโดยใช้ซอฟต์แวร์ NVIDIA AI ซึ่งหมายความว่านักพัฒนาสามารถสร้างแบบจำลองต้นแบบในพื้นที่แล้วปรับขนาดขึ้นในคลาวด์โดยไม่ต้องปรับรหัสที่สำคัญช่วยให้กระบวนการวนซ้ำและกระบวนการปรับใช้อย่างมีประสิทธิภาพ
โดยสรุป GB10 Superchip ได้รับการออกแบบมาเพื่อเพิ่มขีดความสามารถให้กับนักพัฒนา AI ด้วยเครื่องมือขนาดกะทัดรัด แต่ทรงพลังสำหรับการฝึกอบรมและงานการอนุมาน ในขณะที่มันมุ่งเน้นไปที่การอนุมานและการสร้างต้นแบบมากขึ้นความสามารถของมันสามารถขยายผ่านการรวมเข้ากับบริการคลาวด์สำหรับความต้องการการฝึกอบรมที่กว้างขวางมากขึ้น
การอ้างอิง:
[1] https://www.hyperstack.cloud/blog/thought-leadership/nvidia-project-digits-all-you-need-to-know-the-blackwell-ai-supercomputer
[2] https://www.nvidia.com/en-us/project-digits/
[3] https://www.marketscreener.com/quote/stock/asustek-computer-inc-6492304/news/asus-introduces-ascent-gx10-ai-supercomputer-powered-by-nvidia-gb10-grace-blace-Blace-Blace-Blackwell
[4] https://press.asus.com/news/press-releases/asus-introduces-ascent-gx-10-ai-supercomputer-powered-by-nvidia-gb-10-grace-blackwell-superchip/
[5] https://www.mediatek.com/press-room/mediatek-collaborates-with-nvidia-on-the-new-nvidia-gb10-grace-blackwell-superchip-power-power-nvidia-project
[6] https://www.friendsofthemetaverse.com/blog/ai-chips-explained-training-vs-inference-processors-unveiled
[7] https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on-erery-desk-and-at-erery-ai-developers-fingertips
[8] https://www.reddit.com/r/deeplearning/comments/1hywfah/nvidia_project_digits_vs_rtx_5090_dilemma/
[9] https://meta-quantum.today/?p=3460
[10] https://newsroom.arm.com/blog/arm-nvidia-project-digits-high-performance-ai-ai