NVIDIA DGX jaam saavutab oma muljetavaldava mälu ribalaiuse mitme peamise tehnoloogia kaudu:
1. HBM3E mälu: DGX-jaam kasutab kuni 288 GB suure ribalaiusega mälu 3E (HBM3E), mis on teatud tüüpi virnastatud mälu, mis on tuntud oma suure ribalaiuse ja madala latentsuse poolest. See mälutehnoloogia on süsteemi kõrge mälu ribalaiuse edastamiseks ülioluline, ulatudes kuni 8 TB/s [1] [7] [8].
2. LPDDR5X mälu: lisaks HBM3E-le toetab DGX jaam kuni 496 GB LPDDR5X mälu, mis on teatud tüüpi madala võimsusega DRAM, mis on mõeldud suure ribalaiusega rakenduste jaoks. See mälu aitab kaasa süsteemi üldisele ühtsele mäluruumile 784 GB ja annab ribalaiuse 396 GB/s [1] [8].
3. NVLINK-C2C ühendus: DGX-jaam kasutab NVLink-C2C ühenduse tehnoloogiat, mis võimaldab CPU ja GPU vahel ühtset mälumudelit. See tehnoloogia suurendab märkimisväärselt mälu ribalaiust, võimaldades sujuvat andmeedastust protsessori ja GPU vahel, lahendades AI arenduskoormuse ühe peamise kitsaskoha [2] [4].
4. Grace CPU ja Blackwell Ultra GPU: süsteemi toiteallikaks on Grace CPU ja Blackwelli Ultra GPU, mis mõlemad on mõeldud AI jõudluse optimeerimiseks. Nende komponentide kombinatsioon NVLink-C2C ühendusega tagab andmete tõhusa suhtluse ja töötlemise, aidates veelgi kaasa süsteemi suure mälu ribalaiusele [1] [2].
Need tehnoloogiad võimaldavad ühiselt pakkuda DGX -i jaamal olulist mälu ribalaiust, muutes selle sobivaks AI koolituse ja järeldamise ülesannete nõudmiseks, mis varem nõudsid andmekeskuse ressursse.
Tsitaadid:
[1] https://www.theregister.com/2025/03/18/gtc_frame_nvidias_budget_blackwell/
]
[3] https://images.nvidia.com/content/newsletters/email/pdf/dgx-mant
]
[5] https://www.youtube.com/watch?v=KRBH0von-2A
[6] https://www.skyblue.de/uploads/datasheets/nvidia_twp_dgx_a100_system_architecture.pdf
]
]
]