Stația NVIDIA DGX și modelele DGX anterioare, cum ar fi stația DGX A100 și stația DGX mai veche cu GPU -uri Tesla V100, prezintă diferențe semnificative în lățimea de bandă de memorie și arhitectura generală.
Stația DGX (model nou)
Noua stație DGX este echipată cu GB300 Grace Blackwell Ultra Desktop Superchip, care include un procesor Grace 72 de nuclee și un GPU Blackwell Ultra. Acest sistem are până la 288 GB de memorie GPU HBM3E și până la 496 GB din memoria procesorului LPDDR5X. Lățimea de bandă a memoriei pentru memoria GPU nu este menționată în mod explicit în ceea ce privește GB/S, dar sistemul acceptă până la 8 TB/s de lățime de bandă de memorie, care este semnificativ mai mare decât modelele anterioare. Lățimea de bandă a memoriei CPU este de până la 396 GB/s ** [5] [8].Stația DGX A100
Stația DGX A100 folosește patru GPU -uri NVIDIA A100 SXM4, fiecare cu 40 GB sau 80 GB de memorie HBM2. Deși lățimea de bandă specifică a memoriei pentru acest model nu este detaliată, GPU -urile A100 sunt cunoscute pentru lățimea lor de bandă cu memorie ridicată, de obicei în jur de 1.555 GB/s pe GPU pentru memoria HBM2, care ar totaliza aproximativ 6.220 GB/s pentru întregul sistem [10].Stație DGX cu GPU -uri Tesla V100
Modelul mai vechi al stației DGX cu patru GPU TESLA V100 prezintă 16 GB de memorie HBM2 pe GPU, în valoare totală de 64 GB de memorie GPU. Lățimea de bandă a memoriei pentru fiecare V100 GPU este de 900 GB/s, rezultând o lățime totală de bandă a memoriei GPU de 3,6 TB/s. În plus, sistemul include 256 GB de memorie de sistem DDR4, dar lățimea sa de bandă nu este la fel de mare ca memoria GPU [2] [9].Diferențe cheie
- Tip de memorie și lățime de bandă: Noua stație DGX folosește HBM3E pentru memoria GPU, oferind o lățime de bandă semnificativ mai mare în comparație cu HBM2 utilizat la modelele mai vechi. Lățimea de bandă a memoriei CPU este, de asemenea, îmbunătățită cu LPDDR5X.- Arhitectură: Noua stație DGX integrează un procesor GRACE cu un GPU Blackwell Ultra, oferind o arhitectură mai coezivă și mai eficientă pentru sarcinile de lucru AI în comparație cu modelele anterioare.
- Scalabilitate: Noua stație DGX este proiectată pentru a sprijini sarcini de lucru mai extinse AI, cu capacitatea sa de memorie mai mare și interconectări mai rapide precum NVLink-C2C, care oferă de șapte ori lățimea de bandă a PCIe Gen 5 [5] [8].
Citări:
[1] https://www.reddit.com/r/localllama/comments/1jedy17/nvidia_digits_specs_released_and_renamed_to_dgx/
[2] https://images.nvidia.com/content/newsletters/email/pdf/dgx-tatation-wp.pdf
[3] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-AI-Supercomputers
[4] https://www.youtube.com/watch?v=krbh0von-2a
[5] https://www.notebookcheck.net/nvidia-unveils-dgx-tatation-desktop-AI-supercomputer-with-72-core-cpu-și-blackwell-ultra-gpu.981669.0.html
[6] https://docs.nvidia.com/dgx/dgxa100-user-guide/introduction-to-dgxa100.html
[7] https://www.techpowerup.com/forums/threads/nvidia-announces-dgx-spark-and-dgx-station-personal-AI-Computers.334300/
[8] https://www.nvidia.com/en-us/products/workstations/dgx-tatation/
[9] https://xenon.com.au/product/nvidia-dgx-tatation/
[10] https://mcomputers.cz/en/products-and-services/nvidia/dgx-systems/nvidia-dgx-station-a100/