NVIDIA DGX -jaam ja varasemad DGX -mudelid, näiteks DGX Station A100 ja vanem DGX jaam koos Tesla V100 GPU -dega, on olulised erinevused mälu ribalaius ja üldine arhitektuur.
DGX Station (uus mudel)
Uus DGX-jaam on varustatud GB300 Grace Blackwell Ultra Desktop SuperChip-ga, mis sisaldab 72-tuumalist Grace CPU ja Blackwell Ultra GPU. Selles süsteemis on kuni 288 GB HBM3E GPU mälu ja kuni 496 GB LPDDR5X CPU mälu. GPU mälu mälu ribalaius ei ole GB/s osas selgesõnaliselt öeldud, kuid süsteem toetab kuni 8 TB/s mälu ribalaiust, mis on eelmistest mudelitest oluliselt kõrgem. CPU mälu ribalaius on kuni 396 GB/s ** [5] [8].DGX Station A100
DGX jaam A100 kasutab nelja NVIDIA A100 SXM4 GPU -d, millest igaühel on kas 40 GB või 80 GB HBM2 mälu. Kuigi selle mudeli konkreetne mälu ribalaius pole üksikasjalik, on A100 GPU -d tuntud oma suure mälu ribalaiuse poolest, tavaliselt HBM2 mälu jaoks umbes 1555 GB/s GPU kohta, mis kogu süsteemi jooksul kokku umbes 6220 GB/s [10].DGX jaam koos Tesla V100 GPU -ga
Nelja Tesla V100 GPU -ga vanem DGX -jaama mudel on 16 GB HBM2 mälu GPU kohta, kokku 64 GB GPU mälu. Iga V100 GPU mälu ribalaius on 900 GB/s, mille tulemuseks on GPU kogu ribalaius 3,6 TB/s. Lisaks sisaldab süsteem 256 GB DDR4 süsteemi mälu, kuid selle ribalaius pole nii kõrge kui GPU mälu [2] [9].Peamised erinevused
- Mälutüüp ja ribalaius: uus DGX -jaam kasutab GPU mälu jaoks HBM3E, pakkudes oluliselt suuremat ribalaiust võrreldes vanemates mudelites kasutatava HBM2 -ga. CPU mälu ribalaiust parandatakse ka LPDDR5X abil.- Arhitektuur: Uus DGX -jaam integreerib Grace CPU Blackwelli Ultra GPU -ga, pakkudes varasemate mudelitega võrreldes AI töökoormuse jaoks sidusamat ja tõhusamat arhitektuuri.
- Mastaapsus: Uus DGX-jaam on loodud toetama ulatuslikumat AI töökoormust, millel on kõrgema mälumahu ja kiiremad ühendused, näiteks NVLink-C2C, mis pakub seitse korda PCIE Gen 5 ribalaiust [5] [8].
Tsitaadid:
]
[2] https://images.nvidia.com/content/newslets/email/pdf/dgx-mant
]
[4] https://www.youtube.com/watch?v=krbh0von-2a
]
]
]
]
[9] https://xenon.com.au/product/nvidia-dgx-dation/
]