Superchip Nvidia GB10 in NVIDIA GB300 sta zasnovana za izboljšanje zmogljivosti za obdelavo AI, vendar se bistveno razlikujejo v primerih njihove arhitekture, zmogljivosti in predvidene uporabe.
GB10 Superchip
GB10 Superchip temelji na arhitekturi Nvidia Grace Blackwell in je optimiziran za kompaktne faktorje oblike namizja. Odlikuje ga robusten Blackwell GPU s tenzorskim jedrom pete generacije in podporo FP4, ki zagotavlja do 1.000 bilijonov operacij na sekundo (zgornji del) AI procesne moči [1] [3]. GB10 vključuje 20-jedrni CPU ARM, ki povečuje predhodno obdelavo in orkestracijo podatkov, pospešuje uglaševanje modela in sklepanje v realnem času [1] [4]. Ponuja 128 GB enotnega skladnega pomnilnika, ki razvijalcem omogoča upravljanje modelov AI do 200 milijard parametrov [1] [7]. GB10 je idealen za raziskovalce in razvijalce AI, ki potrebujejo zmogljivo AI računalništvo na svojih namizjih za prototipiranje in natančno nastavitev modelov AI [6] [7].
Nvidia GB300
V nasprotju s tem je NVIDIA GB300 zgrajena z Grace Blackwell Ultra arhitekturo in je zasnovana za zahtevnejše delovne obremenitve AI, zlasti v podjetniških okoljih. Odlikuje ga Blackwell Ultra GPU z najnovejšimi tenzorskimi jedri in natančnostjo FP4, ki je povezan z visokozmogljivim CPU-jem Nvidia Grace prek NVLINK-C2C [3] [5]. GB300 ponuja znatno povečanje zmogljivosti pomnilnika z do 288 GB HBM3E, ki podpira večje modele neposredno v pomnilniku in zmanjšuje zamude za aplikacije v realnem času [2] [6]. Ta superchip je del postaje DGX, ki zagotavlja ogromnih 784 GB skladnega pomnilniškega prostora, zaradi česar je primeren za obsežne treninge in sklepanje delovnih obremenitev [3] [6]. GB300 je optimiziran tako za naloge za usposabljanje kot za sklepanje, z izboljšanimi omrežnimi zmogljivostmi prek omrežne kartice CX8 in 1,6T optičnih modulov, ki podvojijo pasovno širino v primerjavi s predhodnikom [2].
Ključne razlike
- Zmogljivost in arhitektura: GB10 prinaša do 1 PETAFLOP zmogljivosti AI, medtem ko GB300 ponuja bistveno večjo računalniško moč, s poudarkom na večjih delovnih obremenitvah AI.
- Zmogljivost pomnilnika: GB10 ima 128 GB poenotenega pomnilnika, medtem ko GB300 ponuja do 288 GB HBM3E, in ko je integriran v sisteme, kot je DGX postaja, lahko zagotovi do 784 GB skladnega pomnilnika.
- Predvidena uporaba: GB10 je zasnovan za razvoj namizja AI, idealen za raziskovalce in razvijalce, ki potrebujejo takojšnjo uvajanje modela AI. GB300 je namenjen podjetniškim okoljem, ki podpira obsežne potrebe po infrastrukturi AI.
- Mreže in razširljivost: GB300 vključuje napredne zmogljivosti za omrežje z omrežno kartico CX8, ki podvoji pasovno širino, zaradi česar je bolj primeren za hiper-obsežne podatkovne centre in obsežne uvajanja AI. GB10 lahko poveže dva sistema prek ConnectX-7 NICS za ravnanje z večjimi modeli, vendar ni tako razširljiv kot GB300 v velikih okoljih podatkovnih centrov.
Navedbe:
[1] https://press.asus.com/news/press-releases/asus-introduces-gx-gx-10-ai-Supercomputer-powered-by-nvidia-gb-10-Grace-blackwell-superchip
[2] https://drrobertcastlano.substack.com/p/nvidia-gb300-redefining-ai-computing
[3] https://nvidianews.nvidia.com/news/nvidia-announces-dgx-park-and-dgx-station-personal-aa-computers
[4] https://www.bigdatawire.com/this-just-in/nvidia-unveils-project-digits-peral-ai-supercomputer/
[5] https://www.nvidia.com/en-us/data-center/dgx-gb300/
[6] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-aa-superračunalnik
[7] https://meta-quantum.today/?p=3460
[8] https://www.nvidia.com/en-us/data-center/gb300-nvl72/
[9] https://nvidiaws.nvidia.com/news/nvidia-puts-grace-blackwell-on-every-desk-and-at-every-ai-developers-fingertips