Stanica NVIDIA DGX a predchádzajúce modely DGX, ako napríklad stanica DGX A100 a staršia stanica DGX s GPU TESLA V100, vykazujú významné rozdiely v šírke pásma pamäte a celkovej architektúry.
DGX Station (nový model)
Nová stanica DGX je vybavená Superchipom GB300 Grace Blackwell Ultra Desktop Superchip, ktorý obsahuje 72-jadrovú milosť CPU a Blackwell Ultra GPU. Tento systém obsahuje až 288 GB pamäte HBM3E GPU a až 496 GB pamäte CPU LPDDR5X. Šírka pásma pamäte pre pamäť GPU nie je výslovne uvedená z hľadiska GB/S, ale systém podporuje až 8 TB/s šírky pásma pamäte, ktorá je výrazne vyššia ako predchádzajúce modely. Šírka pásma pamäte CPU je až 396 GB/S ** [5] [8].DGX Station A100
Stanica DGX A100 používa štyri GPU NVIDIA A100 SXM4, z ktorých každý má 40 GB alebo 80 GB pamäte HBM2. Zatiaľ čo špecifická šírka pásma pamäte pre tento model nie je podrobná, GPU A100 sú známe svojou šírkou pásma s vysokou pamäťou, zvyčajne okolo 1 555 GB/s na GPU pre pamäť HBM2, čo by bolo pre celý systém celkovo až približne 6 220 GB/s [10].DGX stanica s GPU Tesla V100
Starší model stanice DGX so štyrmi GPU Tesla V100 obsahuje 16 GB pamäte HBM2 na GPU, celkovo 64 GB pamäte GPU. Šírka pásma pamäte pre každý GPU V100 je 900 GB/s, čo vedie k celkovej šírke pásma pamäte GPU 3,6 TB/s. Okrem toho systém obsahuje 256 GB systémovej pamäte DDR4, ale jej šírka pásma nie je taká vysoká ako pamäť GPU [2] [9].Kľúčové rozdiely
- Typ pamäte a šírka pásma: Nová stanica DGX používa HBM3E pre pamäť GPU, ktorá ponúka výrazne vyššiu šírku pásma v porovnaní s HBM2 používanou v starších modeloch. Šírka pásma pamäte CPU je tiež vylepšená pomocou LPDDR5X.- Architektúra: Nová stanica DGX integruje procesor Grace s Blackwell Ultra GPU, ktorá poskytuje súdržnejšiu a efektívnejšiu architektúru pre pracovné zaťaženie AI v porovnaní s predchádzajúcimi modelmi.
- Škálovateľnosť: Nová stanica DGX je navrhnutá tak, aby podporovala rozsiahlejšie pracovné zaťaženie AI s vyššou kapacitou pamäte a rýchlejšími prepojeniami, ako je NVLink-C2C, ktorá ponúka sedemnásobnú šírku pásma PCIe Gen 5 [5] [8].
Citácie:
[1] https://www.reddit.com/r/localllama/comments/1jedy17/nvidia_digits_specs_releather_and_rennamed_to_dgx/
[2] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[3] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-ai-superComputers
[4] https://www.youtube.com/watch?v=krbH0Von-2a
[5] https://www.notebookcheck.net/Nvidia-unveils-DGX-Station-desktop-AI-supercomputer-with-72-core-CPU-and-Blackwell-Ultra-GPU.981669.0.html
[6] https://docs.nvidia.com/dgx/dgxa100-user-guide/introduction-to-dgxa100.html
[7] https://www.techpowerup.com/forums/threads/nvidia-annunces-dgx-park-and-dgx-station-pation-personal-ai-cacomputers.334300/
[8] https://www.nvidia.com/en-us/products/workstations/dgx-station/
[9] https://xenon.com.au/product/nvidia-dgx-station/
[10] https://mcomputers.cz/en/products-and-services/nvidia/dgx-systems/nvidia-dgx-station-ation-a100/