NVIDIA GB10 Superchip a NVIDIA GB300 sú navrhnuté tak, aby zlepšili schopnosti spracovania AI, ale výrazne sa líšia v ich architektúre, výkone a zamýšľaných prípadoch použitia.
GB10 Superchip
GB10 Superchip je založený na architektúre NVIDIA Grace Blackwell a je optimalizovaný pre kompaktné faktory formy stolných počítačov. Má robustný GPU Blackwell s tenzorovými jadrami piatej generácie a podporou FP4, ktorý poskytuje až 1 000 biliónov operácií za sekundu (vrcholy) výkonu spracovania AI [1] [3]. GB10 obsahuje 20-jadrový procesor ARM, ktorý zvyšuje predbežné spracovanie a orchestráciu údajov, urýchľuje ladenie modelu a inferencie v reálnom čase [1] [4]. Ponúka 128 GB zjednotenej koherentnej pamäte, čo vývojárom umožňuje spravovať modely AI až 200 miliárd parametrov [1] [7]. GB10 je ideálny pre výskumných pracovníkov a vývojárov AI, ktorí potrebujú výkonné výpočty AI na svojich stolných počítačoch pre prototypovanie a doladenie modelov AI [6] [7].
NVIDIA GB300
Naopak, NVIDIA GB300 je postavený s Ultra Architecture Grace Blackwell Ultra a je navrhnutý pre náročnejšie pracovné zaťaženie AI, najmä v podnikových prostrediach. Je vybavený GPU Blackwell Ultra GPU s najnovšími tenzorovými jadrami a presnosťou FP4, pripojenými k vysokoúčinnému procesoru NVIDIA Grace prostredníctvom NVLINK-C2C [3] [5]. GB300 ponúka podstatné zvýšenie kapacity pamäte s 288 GB HBM3E, čo podporuje väčšie modely priamo v pamäti a znižuje latenciu pre aplikácie v reálnom čase [2] [6]. Tento superchip je súčasťou stanice DGX, ktorá poskytuje masívne 784 GB koherentného pamäťového priestoru, vďaka čomu je vhodný pre rozsiahly výcvik a inferenčné pracovné zaťaženie [3] [6]. GB300 je optimalizovaný pre úlohy tréningu aj inferencie, s vylepšenými sieťovými schopnosťami prostredníctvom sieťovej karty CX8 a 1,6T optických modulov, zdvojnásobenie šírky pásma v porovnaní so svojím predchodcom [2].
Kľúčové rozdiely
- Výkon a architektúra: GB10 poskytuje až 1 Petaflop výkonu AI, zatiaľ čo model GB300 ponúka výrazne vyššiu výpočtovú silu so zameraním na väčšie pracovné zaťaženie AI.
- Pamäťová kapacita: GB10 má 128 GB zjednotenej pamäte, zatiaľ čo GB300 ponúka až 288 GB HBM3E a keď je integrovaný do systémov, ako je stanica DGX, môže poskytnúť až 784 GB koherentnej pamäte.
- Zamýšľané použitie: GB10 je navrhnutý pre vývoj AI Desktop, ideálny pre výskumných pracovníkov a vývojárov, ktorí potrebujú okamžité nasadenie modelu AI. GB300 je zameraný na podnikové prostredia, ktoré podporuje rozsiahle potreby infraštruktúry AI.
- Sieť a škálovateľnosť: GB300 obsahuje pokročilé sieťové schopnosti so sieťovou kartou CX8, ktorá zdvojnásobuje šírku pásma, vďaka čomu je vhodnejšia pre hyperscale dátové centrá a rozsiahle nasadenie AI. GB10 môže pripojiť dva systémy prostredníctvom NIC ConnectX-7 na spracovanie väčších modelov, ale nie je taký škálovateľný ako GB300 vo veľkých prostrediach dátového centra.
Citácie:
[1] https://press.asus.com/news/press-releases/asus-introduces-ascent-gx-10-ai-supercomputer-powered-by-nvidia-gb-10-grace-blackwell-superchip/
[2] https://drrobertcastellano.substack.com/p/nvidia-gb300-redefining-ai-computing
[3] https://nvidianews.nvidia.com/news/nvidia-annunces-dgx-park-and-dgx-tation-ation-ation-personal-ai-Computers
[4] https://www.bigdatawire.com/this-just-in/nvidia-unveils-project-digits-personal-ai-superComputer/
[5] https://www.nvidia.com/en-us/data-center/dgx-gb300/
[6] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-ai-superComputers
[7] https://meta-quantum.today/?p=3460
[8] https://www.nvidia.com/en-us/data-center/gb300-nvl72/
[9] https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on-ver-desk-and--at-at-every-ai-daivelopers-fingertrips