NVIDIA DGX -asema on tehokas AI-tietokonejärjestelmä, joka on suunniteltu toimittamaan datakeskuksen suorituskyky työpöydän muotokerroksessa. Siinä on Advanced GB300 Grace Blackwell Ultra Desktop SuperChip ja huomattava 784 Gt koherenttia muistitilaa, mikä on ratkaisevan tärkeä laajamittaiselle AI-mallin koulutukselle ja päätelmitykselle. DGX-aseman muistin kaistanleveyttä ei ilmoiteta nimenomaisesti viimeisimmissä eritelmissä, mutta tiedetään hyödyntävän korkean kaistanleveyden muistitekniikoita, kuten NVLINK-C2C, GPUS: n ja prosessorin välistä tehokasta tiedonsiirtoa varten.
Vertailun vuoksi Tesla V100 GPU: lla käytetyn DGX-aseman edeltäjän NVLINK-kaistanleveys oli enintään 200 Gt/s GPU: n välisessä viestinnässä, ja siinä käytettiin HBM2-muistia huippukannu 900 gb/s Volta-arkkitehtuurilla [9] [10]. Uuden DGX -aseman, jolla on GB300 SuperChip, odotetaan kuitenkin tarjoavan huomattavasti parannettua suorituskykyä edistyneen arkkitehtuurinsa ja suuremman muistikapasiteetin vuoksi.
Muut AI -laskentajärjestelmät, kuten mikron -DDR5 -muistia käyttävät, tarjoavat teoreettisen enimmäismuistin kaistanleveydet jopa 614 Gt/s, mikä on hyödyllistä AI -päätelmien työmäärille [2]. DGX -kipinä, pienempi AI -tietokonejärjestelmä NVIDIA: sta, on muistin kaistanleveys 273 Gt/s, joka on edullisempi ja sopii pienempiin AI -malleihin [1] [4].
Huippuluokan AI-sovelluksissa NVIDIA H100 GPU: n kaltaiset järjestelmät tarjoavat enintään 3 TB/s: n muistin muistin kaistanleveyksiä, jotka ylittävät merkittävästi useimpien muiden järjestelmien kaistanleveyden [5]. DGX-aseman suorituskyky on sijoitettu näiden ääripäiden välillä, mikä tarjoaa tasapainon korkean muistin kapasiteetin ja edistyneen yhdysteknologian tasapainon, mikä tekee siitä sopivan AI-työkuormien vaatimiseen saavuttamatta datakeskukseen keskittyviä ratkaisuja, kuten H100, äärimmäiset kaistanleveydet.
Kaiken kaikkiaan DGX-aseman muistin kaistanleveyden, vaikka sitä ei nimenomaisesti mainita, odotetaan olevan huomattava edistyneen arkkitehtuurinsa ja suuren muistikapasiteetinsa vuoksi, sijoittamalla se tehokkaana työkaluna AI-kehitykselle, joka siltaa kuilun huippuluokan tietokeskuksen ratkaisujen ja helpompien työpöytäjärjestelmien välillä.
Viittaukset:
.
.
.
[4] https://www.youtube.com/watch?v=krbh0von-2a
.
.
[7] https://www.techpo:
.
[9] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[10] https://xenon.com.au/product/nvidia-dgx-station/