Nvidia GB10 Superchip și NVIDIA GB300 sunt concepute pentru a îmbunătăți capacitățile de procesare AI, dar diferă semnificativ în arhitectura, performanța și cazurile de utilizare prevăzute.
GB10 Superchip
GB10 Superchip se bazează pe arhitectura Nvidia Grace Blackwell și este optimizat pentru factori de formă compacti, desktop. Dispune de un GPU Blackwell robust, cu nuclee de tensiune de generație a cincea și suport FP4, oferind până la 1.000 de trilioane de operații pe secundă (topuri) de putere de procesare AI [1] [3]. GB10 include un procesor ARM cu 20 de nuclee, care îmbunătățește preprocesarea și orchestrarea datelor, accelerarea reglării modelului și a deducerii în timp real [1] [4]. Oferă 128 GB de memorie coerentă unificată, permițând dezvoltatorilor să gestioneze modelele AI până la 200 de miliarde de parametri [1] [7]. GB10 este ideal pentru cercetătorii și dezvoltatorii AI care au nevoie de calcule AI puternice pe desktop-urile lor pentru prototipare și reglare fină a modelelor AI [6] [7].
NVIDIA GB300
În schimb, NVIDIA GB300 este construită cu arhitectura Grace Blackwell Ultra și este concepută pentru sarcini de lucru mai solicitante AI, în special în mediile întreprinderilor. Dispune de un GPU Blackwell Ultra cu cele mai recente nuclee de tensiune și precizie FP4, conectat la un procesor Nvidia Grace Nvidia Grace prin NVLink-C2C [3] [5]. GB300 oferă o creștere substanțială a capacității de memorie, cu până la 288 GB HBM3E, care acceptă modele mai mari direct în memorie și reduce latența pentru aplicații în timp real [2] [6]. Această suprapunere face parte din stația DGX, care oferă un spațiu masiv de 784 GB de memorie coerentă, ceea ce o face potrivită pentru antrenamentele pe scară largă și sarcinile de muncă de inferență [3] [6]. GB300 este optimizat atât pentru sarcini de instruire, cât și pentru inferență, cu capacități de rețea îmbunătățite prin intermediul plăcii de rețea CX8 și a modulelor optice 1,6T, dublând lățimea de bandă în comparație cu predecesorul său [2].
Diferențe cheie
- Performanță și arhitectură: GB10 oferă până la 1 petaflop de performanță AI, în timp ce GB300 oferă o putere de calcul semnificativ mai mare, cu accent pe sarcini de lucru AI la scară mai mare.
- Capacitate de memorie: GB10 are 128 GB de memorie unificată, în timp ce GB300 oferă până la 288 GB HBM3E, iar atunci când este integrat în sisteme precum stația DGX, poate furniza până la 784 GB de memorie coerentă.
- Utilizare prevăzută: GB10 este proiectat pentru dezvoltarea AI desktop, ideală pentru cercetători și dezvoltatori care au nevoie de implementare imediată a modelului AI. GB300 este orientat către medii de întreprindere, sprijinind nevoile de infrastructură AI la scară largă.
- Rețea și scalabilitate: GB300 include capacități avansate de rețea cu cartea de rețea CX8, care dublează lățimea de bandă, ceea ce o face mai potrivită pentru centrele de date hiperscale și implementări AI pe scară largă. GB10 poate conecta două sisteme prin ConnectX-7 NIC-uri pentru gestionarea modelelor mai mari, dar nu este la fel de scalabil ca GB300 în medii mari ale centrelor de date.
Citări:
[1] https://press.asus.com/news/press-relases/asus-introducts-ascent-gx-10-AI-Supercomputer-fored-by-nvidia-GB-10-Grace-Blackwell-superchip/
[2] https://drrobertcastellano.substack.com/p/nvidia-gb300-redefining-AI-Computing
[3] https://nvidianews.nvidia.com/news/nvidia-announces-dgx-spark-and-dgx-station-personal-A-computers
[4] https://www.bigdatawire.com/this-just-in/nvidia-unveils-project-digits-personal-AI-Supercomputer/
[5] https://www.nvidia.com/en-us/data-center/dgx-gb300/
[6] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-AI-Supercomputers
[7] https://meta-quantum.today/?p=3460
[8] https://www.nvidia.com/en-us/data-center/gb300-nvl72/
[9] https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on-every-desk-and-at-every-aai-dezvolters-fingertips
