Stanice NVIDIA DGX a předchozí modely DGX, jako je stanice DGX A100 a starší stanice DGX s GPU Tesla V100, vykazují významné rozdíly v šířce pásma paměti a celkové architektuře.
DGX stanice (nový model)
Nová stanice DGX je vybavena GB300 Grace Blackwell Ultra Desktop Superchip, který zahrnuje 72jádrový procesor Grace Grace a Blackwell Ultra GPU. Tento systém obsahuje až 288 GB paměti HBM3E GPU a až 496 GB paměti CPU LPDDR5X. Šířka pásma paměti pro paměť GPU není výslovně uvedena z hlediska GB/S, ale systém podporuje až 8 TB/s šířky pásma paměti, což je výrazně vyšší než předchozí modely. Šířka pásma paměti CPU je až 396 GB/S ** [5] [8].DGX stanice A100
Stanice DGX A100 používá čtyři GPU NVIDIA A100 SXM4, z nichž každá má 40 GB nebo 80 GB paměti HBM2. Zatímco specifická šířka pásma paměti pro tento model není podrobně popsána, GPU A100 jsou známé svou vysokou šířkou pásma paměti, obvykle kolem 1 555 GB/s na GPU pro paměť HBM2, což by celkovalo přibližně 6 220 GB/s pro celý systém [10].DGX stanice s GPU Tesla V100
Starší model stanice DGX se čtyřmi GPU Tesla V100 GPU má 16 GB paměti HBM2 na GPU v celkové výši 64 GB paměti GPU. Šířka pásma paměti pro každý GPU V100 je 900 GB/s, což má za následek celkovou šířku pásma GPU 3,6 TB/s. Systém navíc zahrnuje 256 GB systémové paměti DDR4, ale jeho šířka pásma není tak vysoká jako paměť GPU [2] [9].Klíčové rozdíly
- Typ a šířka pásma paměti: Nová stanice DGX používá HBM3E pro paměť GPU a nabízí výrazně vyšší šířku pásma ve srovnání s HBM2 používaným ve starších modelech. Šířka pásma paměti CPU je také vylepšena pomocí LPDDR5X.- Architektura: Nová stanice DGX integruje CPU Grace s Ultra GPU Blackwell Ultra GPU a poskytuje soudržnější a efektivnější architekturu pro pracovní zátěž AI ve srovnání s předchozími modely.
- Škálovatelnost: Nová stanice DGX je navržena tak, aby podporovala rozsáhlejší pracovní zatížení AI s vyšší paměťovou kapacitou a rychlejšími propojeními, jako je NVLink-C2C, která nabízí sedmkrát šířku pásma PCIE Gen 5 [5] [8].
Citace:
[1] https://www.reddit.com/r/localllama/comments/1jedy17/nvidia_digits_specs_released_and_remed_to_dgx/
[2] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[3] https://opentools.ai/news/nvidia-unleashes-the-future-with-ersonal-ai-supercomputers
[4] https://www.youtube.com/watch?v=KRBH0VON-2A
[5] https://www.notebookcheck.net/nvidia-unveils-dgx-station-desktop-ai-supercomputer-with-72-core-cpu-and-brackwell-ultra-gpu.981669.0.0.html
[6] https://docs.nvidia.com/dgx/dgxa100-user-guide/introduction-to-dgxa100.html
[7] https://www.techpowerup.com/forums/threads/nvidia-announces-Dgx-park-and-Dgx-personal-i-computers.334300/
[8] https://www.nvidia.com/en-us/products/workstations/dgx-station/
[9] https://xenon.com.au/product/nvidia-dgx-station/
[10] https://mcomputers.cz/en/products-and-services/nvidia/dgx-systems/nvidia-Dgx-station-a100/