Sjednocená, koherentní paměť v superchipu GB10 významně zvyšuje výkon modelu AI tím, že poskytne soudržný model paměti CPU+GPU. Tato architektura umožňuje efektivní přenos dat a přístup mezi CPU a GPU, což je zásadní pro pracovní zátěž AI, která vyžadují předběžné zpracování dat i paralelní zpracování. Zde je způsob, jak tento paměťový systém prospívá výkonnostnímu výkonu AI:
1. Efektivní přenos dat: Superchip GB10 používá propojení NVIDIA NVLINK-C2C, které poskytuje vysokou pásmovou šířku, nízkou latenci mezi GPU a CPU. Toto propojení nabízí pětkrát větší šířku pásma PCIe 5.0, což zajišťuje, že data mohou být přenášena rychle a efektivně mezi CPU a GPU, snižují latenci a zlepšení celkového výkonu systému [1] [4].
2. Sjednocená přístup k paměti: Unified Memory Architecture umožňuje CPU i GPU přístup ke stejnému paměťovému prostoru bez nutnosti explicitního kopírování dat. To zjednodušuje programování a snižuje režii správy paměti, protože vývojáři nemusí ručně řídit přenosy dat mezi CPU a GPU. Tento sjednocený přístup umožňuje bezproblémové provádění úkolů, které vyžadují prostředky CPU i GPU, jako je předběžné zpracování dat a trénink/inference modelu AI [1] [3].
3. Podpora velkého modelu: Sjednocený paměťový systém GB10 Superchip podporuje až 128 GB koherentní paměti systému. Tato kapacita je dostatečná pro zpracování velkých modelů AI s až 200 miliardami parametrů, což umožňuje vývojářům prototyp, jemné doladění a provozování těchto modelů přímo na stolních počítačích. Pokud je spojena s jiným systémem prostřednictvím NVIDIA ConnectX, může dokonce podporovat modely s až 405 miliardami parametrů [3] [4].
4. Účinnost energie: Spolupráce s MediaTek na GB10 Superchip zajišťuje, že dosahuje vysokého výkonu při zachování energetické účinnosti. To umožňuje, aby systém fungoval pomocí standardní elektrické zásuvky, díky čemuž je vhodný pro prostředí pro stolní počítače, aniž by vyžadoval specializovanou energetickou infrastrukturu [4] [5].
Stručně řečeno, sjednocená, koherentní paměť v superchipu GB10 zvyšuje výkon modelu AI tím, že usnadňuje efektivní přenos dat, zjednodušuje správu paměti, podporuje velké modely a udržuje energetickou účinnost. Díky těmto funkcím z něj je ideální řešení pro vědce a vývojáře AI, kteří potřebují pracovat se složitými modely AI na stolním měřítku.
Citace:
[1] https://www.asus.com/news/9ccgzbgiuaqcjvuj/
[2] https://www.bigdatawire.com/this-wust-in/nvidia-onveils-project-cigits-sonal--supercomputer/
[3] https://www.marketscreener.com/quote/stock/asustek-computer-inc-6492304/news/asus-introduces-ascent-gx10-ai-supercomputer-powered-by-nvidia-gb10-backwell-superchip-4937233399/
[4] https://dirox.com/post/nvidia-project-cides
[5] https://akihabaranews.com/nvidias-new-gg10-superchip/
[6] https://theexecutivepost.com/nvidia-digits-world-smallest-ai-supercomputer/
[7] https://www.engineering.com/nvidia-unveils-project-Digits--ai-supercomputer/
[8] https://www.nvidia.com/en-us/project-digits/
[9] https://nvidianews.nvidia.com/news/nvidia-puts-race-lackwell-on-every-desk-and-at-every-ai-developers-fivertips