Superchip NVIDIA GB10 a NVIDIA GB300 jsou navrženy tak, aby zvyšovaly schopnosti zpracování AI, ale výrazně se lišily ve své architektuře, výkonu a zamýšleném použití.
GB10 Superchip
Superchip GB10 je založen na architektuře NVIDIA Grace Blackwell a je optimalizován pro kompaktní faktory formy stolních počítačů. Je vybaven robustním GPU Blackwell s tenzorovými jádry páté generace a podporou FP4, který poskytuje až 1 000 bilionů operací za sekundu (vrcholy) výkonu AI [1] [3]. GB10 zahrnuje 20jádrový procesor ARM, který zvyšuje předběžné zpracování dat a orchestraci, zrychlení ladění modelu a inspiraci v reálném čase [1] [4]. Nabízí 128 GB sjednocené koherentní paměti, což vývojářům umožňuje spravovat modely AI až 200 miliard parametrů [1] [7]. GB10 je ideální pro vědce a vývojáře AI, kteří potřebují výkonné výpočetní techniky AI na svých stolních počítačích pro prototypování a jemně doladěné modely AI [6] [7].
Nvidia GB300
Naproti tomu NVIDIA GB300 je postavena s architekturou Grace Blackwell Ultra Architecture a je navržena pro náročnější pracovní zátěž AI, zejména v podnikových prostředích. Je vybaven ultra GPU Blackwell s nejnovějšími tenzorovými jádry a přesností FP4, připojenou k vysoce výkonnému procesoru NVIDIA Grace přes NVLINK-C2C [3] [5]. GB300 nabízí podstatné zvýšení kapacity paměti, s až 288 GB HBM3E, který podporuje větší modely přímo v paměti a snižuje latenci pro aplikace v reálném čase [2] [6]. Tento superchip je součástí stanice DGX, která poskytuje masivní 784 GB koherentního paměťového prostoru, takže je vhodný pro rozsáhlé trénink a inferencí pracovní zátěže [3] [6]. GB300 je optimalizován jak pro tréninkové, tak pro inferenční úkoly, s vylepšenými síťovými schopnostmi prostřednictvím síťové karty CX8 a optickými moduly 1.6T, což zdvojnásobí šířku pásma ve srovnání s jeho předchůdcem [2].
Klíčové rozdíly
- Výkon a architektura: GB10 poskytuje až 1 petafrop výkonu AI, zatímco GB300 nabízí výrazně vyšší výpočetní výkon se zaměřením na pracovní zátěž AI ve větším měřítku.
- Paměťová kapacita: GB10 má 128 GB sjednocené paměti, zatímco GB300 nabízí až 288 GB HBM3E a při integraci do systémů, jako je stanice DGX, může poskytnout až 784 GB koherentní paměti.
- Zamýšlené použití: GB10 je navržen pro vývoj AI na ploše, ideální pro vědce a vývojáře, kteří potřebují okamžité nasazení modelu AI. GB300 je zaměřen na podniková prostředí a podporuje rozsáhlé potřeby infrastruktury AI.
- Sítě a škálovatelnost: GB300 zahrnuje pokročilé síťové schopnosti se síťovou kartou CX8, která zdvojnásobí šířku pásma, což je vhodnější pro datová centra Hyperscale a rozsáhlé nasazení AI. GB10 může připojit dva systémy prostřednictvím NIC Connectax-7 pro manipulaci s většími modely, ale není tak škálovatelné jako GB300 ve velkých prostředích datových center.
Citace:
[1] https://press.asus.com/news/press-releases/asus-inTroduces-ascent-gx-10-ai-supercomputer-povahad-by-nvidia-gb-10-rackwell-superchip/
[2] https://drrobertcacallano.substack.com/p/nvidia-gb300-redefining-ai- computing
[3] https://nvidianews.nvidia.com/news/nvidia-announces-Dgx-park-and-Dgx-station-to--imputery
[4] https://www.bigdatawire.com/this-just-in/nvidia-onveils-project-cidenal-ai-supercomputer/
[5] https://www.nvidia.com/en-us/data-center/dgx-gb300/
[6] https://opentools.ai/news/nvidia-unleashes-the-future-with-ersonal-ai-supercomputers
[7] https://meta-quantum.today/?p=3460
[8] https://www.nvidia.com/en-us/data-center/gb300-nvl72/
[9] https://nvidianews.nvidia.com/news/nvidia-puts-race-lackwell-on-every-desk-and-at-every-ai-developers-fivertips