Stația NVIDIA DGX își realizează lățimea de bandă impresionantă de memorie prin mai multe tehnologii cheie:
1. Memorie HBM3E: Stația DGX utilizează până la 288 GB de memorie de lățime de bandă mare 3E (HBM3E), care este un tip de memorie stivuită cunoscută pentru lățimea de bandă ridicată și latența scăzută. Această tehnologie de memorie este crucială pentru livrarea lățimii de bandă ridicate a memoriei sistemului, atingând până la 8 TB/s [1] [7] [8].
2. Memorie LPDDR5X: Pe lângă HBM3E, stația DGX acceptă până la 496 GB memorie LPDDR5X, care este un tip de DRAM cu putere redusă proiectată pentru aplicații cu lățime de bandă mare. Această memorie contribuie la spațiul coerent de memorie coerent al sistemului de 784 GB și oferă o lățime de bandă de 396 GB/s [1] [8].
3. NVlink-C2C Interconect: Stația DGX utilizează tehnologia de interconectare NVLink-C2C, care permite un model de memorie coerent între CPU și GPU. Această tehnologie îmbunătățește semnificativ lățimea de bandă a memoriei, permițând transferul de date fără probleme între CPU și GPU, rezolvând unul dintre blocajele majore în sarcinile de lucru pentru dezvoltarea AI [2] [4].
4. Grace CPU și Blackwell Ultra GPU: Sistemul este alimentat de un procesor Grace și un Blackwell Ultra GPU, ambele fiind concepute pentru a optimiza performanța AI. Combinația acestor componente cu interconectarea NVLink-C2C asigură o comunicare și procesare eficientă a datelor, contribuind în continuare la lățimea de bandă de memorie ridicată a sistemului [1] [2].
Aceste tehnologii permit colectiv stației DGX să ofere o lățime de bandă substanțială a memoriei, ceea ce o face potrivită pentru a solicita sarcini de instruire și inferență AI care au cerut anterior resurse de centre de date.
Citări:
[1] https://www.theregister.com/2025/03/18/gtc_frame_nvidias_budget_blackwell/
[2] https://www.stocktitan.net/news/nvda/nvidia-announces-dgx-spark-and-dgx-station-personal-AI-VG4PFHN7JEDK.HTML
[3] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[4] https://investor.nvidia.com/news/press-release-details/2025/nvidia-announces-dgx-spark-and-dgx-station-personal-AI-Computers/Default.aspx
[5] https://www.youtube.com/watch?v=krbh0von-2a
[6] https://www.skyblue.de/uploads/datasheets/nvidia_twp_dgx_a100_system_architecture.pdf
[7] https://www.reddit.com/r/localllama/comments/1jee2b2/nvidia_dgx_spark_project_digits_specs_are_out/
[8] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_announces_dgx_spark_and_dgx_station/
[9] https://www.robusthpc.com/wp-content/uploads/2021/11/nvidia-dgx-station-a100-system-architecture-white-paper_published.pdf