Nvidia GB10 Grace Blackwell Superchip ได้รับการออกแบบมาเพื่อจัดการงานการเรียนรู้ของเครื่องด้วยประสิทธิภาพและพลังที่ยอดเยี่ยม มันเป็นองค์ประกอบสำคัญของตัวเลขโครงการของ Nvidia ซึ่งเป็นซูเปอร์คอมพิวเตอร์ AI ส่วนตัวที่มุ่งเน้นการเข้าถึงการคำนวณ AI ที่มีประสิทธิภาพสูงสำหรับนักวิจัยนักวิทยาศาสตร์ด้านข้อมูลและนักเรียน
คุณสมบัติสำคัญสำหรับการเรียนรู้ของเครื่อง
- ประสิทธิภาพของ AI: GB10 Superchip มอบประสิทธิภาพ AI สูงสุด 1 Petaflop ที่ FP4 Precision ทำให้สามารถใช้โมเดล AI ขนาดใหญ่ที่มีพารามิเตอร์สูงถึง 200 พันล้านพารามิเตอร์ ประสิทธิภาพระดับนี้มีความสำคัญสำหรับงานการเรียนรู้ของเครื่องที่ซับซ้อนเช่นการประมวลผลภาษาธรรมชาติและการมองเห็นคอมพิวเตอร์ [1] [3] [5]
-สถาปัตยกรรม: Superchip ขึ้นอยู่กับสถาปัตยกรรม Nvidia Grace Blackwell โดยรวม Nvidia Blackwell GPU เข้ากับแกน CUDA รุ่นล่าสุดและแกนเทนเซอร์รุ่นที่ห้า ส่วนประกอบเหล่านี้จำเป็นสำหรับการเร่งการคำนวณการเรียนรู้ของเครื่อง [1] [5]
-การรวม CPU และ GPU: GB10 Superchip รวมซีพียู Nvidia Grace ที่มีประสิทธิภาพสูงพร้อมคอร์ประหยัดพลังงาน 20 แกนที่สร้างขึ้นบนสถาปัตยกรรมแขน CPU นี้เชื่อมต่อกับ GPU ผ่านการเชื่อมต่อระหว่างชิปกับชิปกับชิปกับชิปเพื่อให้การถ่ายโอนข้อมูลความเร็วสูงระหว่าง CPU และ GPU ซึ่งมีความสำคัญสำหรับการฝึกอบรมแบบจำลองการเรียนรู้ของเครื่องและการอนุมาน [1] [7]
- หน่วยความจำและที่เก็บข้อมูล: มันมีหน่วยความจำแบบครบวงจร 128GB ที่เชื่อมโยงกันและที่เก็บข้อมูล NVME สูงสุด 4TB หน่วยความจำที่เพียงพอและความสามารถในการจัดเก็บข้อมูลนี้ช่วยให้การจัดการชุดข้อมูลขนาดใหญ่และโมเดลที่ซับซ้อนซึ่งเป็นเรื่องธรรมดาในแอปพลิเคชันการเรียนรู้ของเครื่อง [1] [3]
- ความสามารถในการปรับขนาด: สำหรับงานที่ต้องการมากยิ่งขึ้นหน่วยตัวเลขสองโครงการสามารถเชื่อมโยงเข้าด้วยกันได้โดยใช้ Nvidia Connectx Networking ทำให้พวกเขาสามารถเรียกใช้โมเดลที่มีพารามิเตอร์ได้มากถึง 405 พันล้านพารามิเตอร์ ความสามารถในการปรับขนาดนี้เป็นประโยชน์สำหรับโครงการการเรียนรู้ของเครื่องขนาดใหญ่ที่ต้องการการคำนวณแบบกระจาย [1] [3]
แอปพลิเคชันการเรียนรู้ของเครื่อง
GB10 Superchip เหมาะอย่างยิ่งสำหรับแอพพลิเคชั่นการเรียนรู้ของเครื่องต่างๆรวมถึง:
- AI Generative: สามารถจัดการกับรุ่น Generative ที่ซับซ้อนที่ใช้ในงานเช่นการสร้างภาพและการสร้างข้อความ
- การสร้างแบบจำลอง 3 มิติและแอนิเมชั่น: Superchip รองรับงานที่ต้องใช้พลังการคำนวณสูงเช่นการแสดงผลและการจำลองในสภาพแวดล้อม 3 มิติ
- แบบจำลองภาษาขนาดใหญ่: ด้วยความสามารถในการเรียกใช้แบบจำลองสูงถึง 200 พันล้านพารามิเตอร์มันเหมาะสำหรับงานการประมวลผลภาษาธรรมชาติเช่นการแปลภาษาและการสรุปข้อความ [1] [4]
การพัฒนาและการปรับใช้
ตัวเลขโครงการช่วยให้ผู้ใช้สามารถพัฒนาและเรียกใช้การอนุมานบนโมเดลโดยใช้ระบบเดสก์ท็อปของตัวเองจากนั้นปรับใช้อย่างราบรื่นบนคลาวด์เร่งความเร็วหรือโครงสร้างพื้นฐานศูนย์ข้อมูล เวิร์กโฟลว์แบบ end-to-end นี้ได้รับการสนับสนุนโดยแพลตฟอร์มซอฟต์แวร์ AI Enterprise ของ Nvidia ซึ่งรวมถึงเครื่องมือเช่น Pytorch และ Jupyter Notebooks สำหรับการพัฒนาแบบจำลองและการปรับใช้ [1] [7]
โดยรวมแล้ว GB10 Superchip ได้รับการออกแบบมาเพื่อเพิ่มขีดความสามารถให้กับนักพัฒนาในการสร้างต้นแบบปรับแต่งและปรับใช้โมเดล AI ในเครื่องก่อนที่จะปรับขนาดบนคลาวด์หรือโครงสร้างพื้นฐานศูนย์ข้อมูลทำให้เป็นเครื่องมือที่ทรงพลังสำหรับงานการเรียนรู้ของเครื่อง
การอ้างอิง:
[1] https://quantumzeitgeist.com/nvidia-unveils-smallest-ai-supercomputer-for-developers-wherewhere/
[2] https://news.ycombinator.com/item?id=42619139
[3] https://akihabaranews.com/nvidias-new-gb10-superchip/
[4] https://www.hp.com/us-en/workstations/workstation-pcs.html
[5] https://www.elektormagazine.com/news/project-digits-nvidia-unveils-personal-ai-supercomputer
[6] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-ai-supercomputers
[7] https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on-erery-desk-and-at-erery-ai-developers-fingertips
[8] https://www.guru3d.com/news/page-2017/
[9] https://meta-quantum.today/?p=3460
[10] https://www.hyperstack.cloud/blog/thought-leadership/nvidia-project-digits-all-you-need-to-know-the-blackwell-ai-supercomputer
[11] https://www.nvidia.com/en-us/project-digits/