Superchip NVIDIA GB10, ditampilkan dalam perangkat seperti Digit Proyek Asus Ascent dan NVIDIA, dirancang untuk menangani model AI besar dengan hingga 200 miliar parameter melalui beberapa teknologi utama dan fitur arsitektur:
1. Kinerja AI Petaflop: GB10 Superchip memberikan hingga 1 petaflop kinerja komputasi AI, yang sangat penting untuk memproses model AI besar secara efisien. Tingkat kinerja ini memungkinkan prototipe cepat, penyempurnaan, dan inferensi model AI kompleks [1] [4].
2. Memori Unified: Chip mencakup 128GB memori yang bersatu dan koheren. Arsitektur memori terpadu ini memastikan bahwa baik CPU dan GPU dapat mengakses ruang memori yang sama, secara signifikan meningkatkan efisiensi transfer data dan mengurangi latensi. Ini sangat penting untuk model AI besar yang membutuhkan memori substansial untuk beroperasi secara efektif [3] [5].
3. Arsitektur Grace Blackwell: Superchip GB10 dibangun di atas arsitektur Nvidia Grace Blackwell, yang menggabungkan GPU Blackwell berkinerja tinggi dengan Grace CPU berbasis ARM 20-core. GPU Blackwell memiliki inti tensor generasi kelima, yang dioptimalkan untuk beban kerja AI, dan CPU Grace meningkatkan tugas preprocessing dan orkestrasi data [1] [4].
4. NVLINK-C2C Interkoneksi: Chip ini menggunakan teknologi interkoneksi NVLink-C2C NVIDIA, yang menyediakan koneksi bandwidth tinggi antara CPU dan GPU. Interkoneksi ini menawarkan bandwidth PCIe 5.0, memastikan transfer data yang mulus dan kolaborasi yang efisien antara CPU dan GPU selama perhitungan AI [1] [3].
5. Skalabilitas: Untuk model yang lebih besar, dua sistem yang dilengkapi dengan superchip GB10 dapat dihubungkan menggunakan teknologi jaringan NVIDIA ConnectX. Ini memungkinkan pengguna untuk menangani model AI dengan hingga 405 miliar parameter, seperti model Meta Llama 3.1 [2] [6].
6. FP4 Precision: GB10 Superchip beroperasi pada presisi FP4, yang meningkatkan kecepatan perhitungan melalui perkiraan. Tingkat presisi ini cocok untuk banyak aplikasi AI, menawarkan keseimbangan antara kinerja dan akurasi [2] [4].
7. Kompatibilitas Perangkat Lunak: GB10 Superchip sepenuhnya kompatibel dengan tumpukan perangkat lunak AI NVIDIA, termasuk alat-alat seperti NEMO Framework untuk perpustakaan fine-tuning dan Rapids untuk ilmu data. Kompatibilitas ini memastikan bahwa pengembang dapat memanfaatkan berbagai alat dan kerangka kerja AI untuk mengoptimalkan alur kerja mereka [5] [6].
Secara keseluruhan, kombinasi GB10 Superchip dari komputasi kinerja tinggi, arsitektur memori yang efisien, dan desain yang dapat diskalakan menjadikannya solusi yang ideal untuk menangani model AI besar dengan hingga 200 miliar parameter, mendemokratisasi akses ke kemampuan komputasi AI canggih untuk pengembang dan peneliti.
Kutipan:
[1] https://press.asus.com/news/press-releases/asus-introduces-ascent-gx-10-ai-supercomputer-powered-by-nvidia-gb-10-grace-blackwell-superchip/
[2] https://www.theverge.com/2025/1/6/24337530/nvidia-ces-digits-super-computer-ai
[3] https://meta-quantum.today/?p=3460
[4] https://akihabaranews.com/nvidias-new-gb10-superchip/
[5] https://dataphoenix.info/nvidia-at-ces-2025-a-desktop-supercomputer-that-can-run-200b-parameter-llms/
[6] https://www.hyperstack.cloud/blog/thought-leadership/nvidia-project-digits-all-you-need-to-now-about-the-blackwell-ai-supercomputer
[7] https://www.engineering.com/nvidia-uNVeils-project-digits-personal-ai-supercomputer/
[8] https://www.reddit.com/r/ollama/comments/1hvplfw/new_nvidia_ai_pc_gb10_with_128g_vram_unified/
[9] https://www.techradar.com/pro/nvidia-unveils-a-blackwell-powered-mini-pc
[10] https://www.techeblog.com/nvidia-project-digits-smallest-ai-supercomputer/
[11] https://nvidianews.nvidia.com/news/nvidia-puts-bace-blackwell-on-every-desk-and-at-every-ai-developers-fingertips