Az NVIDIA DGX állomás és a korábbi DGX modellek, mint például az A100 DGX állomás és a Tesla V100 GPU -val rendelkező régebbi DGX állomás, szignifikáns különbségeket mutatnak a memória sávszélességében és az általános építészetben.
DGX állomás (új modell)
Az új DGX állomás a GB300 Grace Blackwell Ultra Desktop Superchip-szel van felszerelve, amely tartalmaz egy 72 core Grace CPU-t és egy Blackwell Ultra GPU-t. Ez a rendszer legfeljebb 288 GB HBM3E GPU memóriát és akár 496 GB LPDDR5X CPU memóriát is tartalmaz. A GPU memóriájának memória sávszélességét nem kifejezetten a GB/S szempontjából fogalmazzák meg, de a rendszer legfeljebb 8 TB/s memória sávszélességet támogat, amely lényegesen magasabb, mint az előző modellek. A CPU memória sávszélessége legfeljebb 396 GB/s ** [5] [8].DGX állomás A100
Az A100 DGX állomás négy NVIDIA A100 SXM4 GPU -t használ, mindegyik 40 GB vagy 80 GB HBM2 memóriával rendelkezik. Míg a modell specifikus memória sávszélessége nem részletes, az A100 GPU -k ismertek a nagy memória sávszélességéről, jellemzően körülbelül 1 555 GB/s/GPU a HBM2 memória számára, ami a teljes rendszernél körülbelül 6220 GB/s -t jelent.DGX állomás Tesla V100 GPU -val
A régebbi DGX állomásmodell négy Tesla V100 GPU -val 16 GB HBM2 memóriát tartalmaz GPU -ban, összesen 64 GB GPU -memória. Az egyes V100 GPU -k memória sávszélessége 900 GB/s, ami teljes GPU memória sávszélességet eredményez 3,6 TB/s. Ezenkívül a rendszer 256 GB DDR4 rendszermemóriát tartalmaz, de sávszélessége nem olyan magas, mint a GPU memória [2] [9].kulcsfontosságú különbségek
- Memória típusa és sávszélesség: Az új DGX állomás HBM3E -t használ a GPU memóriához, amely szignifikánsan nagyobb sávszélességet kínál a régebbi modellekben alkalmazott HBM2 -hez képest. A CPU memória sávszélessége szintén javul az LPDDR5X segítségével.- Építészet: Az új DGX állomás integrálja a GRACE CPU -t egy Blackwell Ultra GPU -val, amely koherensebb és hatékonyabb építészetet biztosít az AI munkaterhelésekhez, mint a korábbi modellek.
- Skálázhatóság: Az új DGX állomást úgy tervezték, hogy támogassa a nagyobb memóriakapacitással és a gyorsabb összeköttetésekkel, mint például az NVLink-C2C-vel, amely a PCIe Gen 5 sávszélességének hétszeresére kínálja [5] [8].
Idézetek:
[1] https://www.reddit.com/r/localllama/comments/1jedy17/nvidia_digits_specs_reeled_and_dgx/
[2] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[3] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-ai-supercomputers
[4] https://www.youtube.com/watch?v=KRBH0VON-2A
[5] https://www.notebookcheck.net/nvidia-utveils-dgx-station-desktop-ai-supercomputer-with-72-core-cpu-and-blackwell-ultra-gpu.981669.0.html
[6] https://docs.nvidia.com/dgx/dgxa100-user-guide/introduction-to-dgxa100.html
[7] https://www.techpowerup.com/forums/threads/nvidia-announdes-dgx-park-and-dgx-station-personal-ai-computers.334300/
[8] https://www.nvidia.com/en-us/products/workstations/dgx-station/
[9] https://xenon.com.au/product/nvidia-dgx-station/
[10] https://mcomputers.cz/en/products-and-services/nvidia/dgx-systems/nvidia-dgx-station-a100/