Tällä hetkellä NVIDIA DGX -asema on yksi tehokkaimmista käytettävissä olevista AI -tietokonejärjestelmistä, ja siinä on jopa 8 teratavua sekunnissa HBM3E -muistilla ja ylimääräisellä 396 Gt/s LPDDR5X -muistilla [1] [3]. Ei kuitenkaan ole erityisiä tulevia järjestelmiä, jotka ylittävät tämän muistin kaistanleveyden tason samassa työpöydän muotokerroksessa.
Tietokeskuksen sovelluksissa järjestelmät, kuten NVIDIA HTX B200, joka käyttää useita Nvidia Blackwell GPU: ta, voivat saavuttaa vielä korkeammat muistin kaistanleveydet. HTX B200 tarjoaa jopa 62 teratavua sekunnissa muistin kaistanleveydestä, mikä ylittää merkittävästi DGX -aseman ominaisuudet [1]. Nämä järjestelmät on kuitenkin suunniteltu laajamittaisiin tietokeskuksen käyttöönottoihin työpöydän käytön sijasta.
Itse DGX-asema on huippuluokan järjestelmä, joka sisältää NVIDIA GB300 Grace Blackwell Ultra Desktop SuperChipin ja tarjoaa massiivisen 784 Gt koherenttia muistitilaa. Se on suunniteltu tuomaan tietokeskuksen suorituskyky työasemille AI-kehitystä varten, mikä tekee siitä erittäin sopivan AI-työmäärän, kuten laajamittaisen koulutuksen ja päätelmien [5] [6], vaatimiseen. Vaikka ei ole ilmoitettuja järjestelmiä, jotka suoraan ylittävät DGX -aseman muistin kaistanleveyden samanlaisessa muotokerroksessa, tekniikan kehitys voi johtaa tuleviin järjestelmiin, joilla on vielä korkeampi suorituskyky.
Yhteenvetona voidaan todeta, että vaikka suuremmalla muistin kaistanleveydellä ei ilmoiteta erityistä Desktop AI -järjestelmiä kuin DGX-asema, Data Center -ratkaisut, kuten HTX B200
Viittaukset:
[1] https://www.youtube.com/watch?v=krbh0von-2a
[2] https://www.dalco.ch/blog/nvidia-announces-a100-80gb-gpu/
[3] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_announces_dgx_spark_and_dgx_station/
[4] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[5] https://www.techpo:
.
.
[8] https://www.fibermall.com/blog/dgx-server.htm