NVIDIA DGX -asema ja aiemmat DGX -mallit, kuten DGX -asema A100, ja vanhemmalla DGX -asemalla Tesla V100 GPU: lla, on merkittäviä eroja muistin kaistanleveydessä ja kokonaisarkkitehtuurissa.
DGX Station (uusi malli)
Uusi DGX-asema on varustettu GB300 Grace Blackwell Ultra Desktop SuperChip -laitteella, joka sisältää 72-ytimen Grace-suorittimen ja Blackwell Ultra GPU: n. Tässä järjestelmässä on jopa 288 Gt HBM3E GPU -muistia ja jopa 496 Gt LPDDR5X -prosessorin muistia. GPU -muistin muistin kaistanleveyttä ei ilmoiteta nimenomaisesti GB/S: n suhteen, mutta järjestelmä tukee jopa 8 TB/s muistin kaistanleveyttä, mikä on huomattavasti korkeampi kuin aiemmat mallit. CPU -muistin kaistanleveys on enintään 396 GB/s ** [5] [8].DGX Station A100
DGX -asema A100 käyttää neljää NVIDIA A100 SXM4 GPU: ta, jokaisella on joko 40 Gt tai 80 Gt HBM2 -muistia. Vaikka tämän mallin erityinen muistin kaistanleveys ei ole yksityiskohtainen, A100 GPU: t tunnetaan korkean muistin kaistanleveydestään, tyypillisesti noin 1 555 gb/s/GPU HBM2 -muistissa, mikä olisi yhteensä noin 6 2220 GB/s koko järjestelmässä [10].DGX -asema Tesla V100 GPU: lla
Vanhemmassa DGX -asemamallissa neljällä Tesla V100 GPU: lla on 16 Gt HBM2 -muistia GPU: ta kohden, yhteensä 64 Gt GPU -muistia. Jokaisen V100 GPU: n muistin kaistanleveys on 900 Gt/s, mikä johtaa GPU -muistin kaistanleveyteen 3,6 TB/s. Lisäksi järjestelmä sisältää 256 Gt DDR4 -järjestelmän muistia, mutta sen kaistanleveys ei ole niin korkea kuin GPU -muisti [2] [9].keskeiset erot
- Muistityyppi ja kaistanleveys: Uusi DGX -asema käyttää HBM3E: tä GPU -muistiin, ja tarjoaa huomattavasti korkeamman kaistanleveyden verrattuna vanhemmissa malleissa käytettyihin HBM2: een. CPU -muistin kaistanleveyttä parannetaan myös LPDDR5X: llä.- Arkkitehtuuri: Uusi DGX -asema integroi Grace CPU: n Blackwell Ultra GPU: n kanssa, joka tarjoaa yhtenäisemmän ja tehokkaamman arkkitehtuurin AI -työmäärään verrattuna aiempiin malleihin.
- Skaalautuvuus: Uusi DGX-asema on suunniteltu tukemaan laajempia AI-työmääriä, joilla on korkeampi muistikapasiteetti ja nopeammat yhteydet, kuten NVLINK-C2C, joka tarjoaa seitsemän kertaa PCIe Gen 5: n kaistanleveyden [5] [8].
Viittaukset:
.
[2] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
.
[4] https://www.youtube.com/watch?v=krbh0von-2a
.
[6] https://docs.nvidia.com/dgx/dgxa100-user-guide/introduction-to-dgxa100.html
[7] https://www.techpo:
[8] https://www.nvidia.com/en-us/products/workstations/dgx-station/
[9] https://xenon.com.au/product/nvidia-dgx-station/
[10] https://mcomputers.cz/en/products-and-services/nvidia/dgx-systems/nvidia-dgx-station-a100/