Jelenleg az NVIDIA DGX állomás az egyik legerősebb AI számítástechnikai rendszer, amelynek memória sávszélessége akár 8 terabájt/másodpercenként is, HBM3E memóriával és további 396 GB/s -nál az LPDDR5X memóriából [1] [3]. Ugyanakkor nincsenek konkrét közelgő rendszerek, amelyek meghaladják a memória sávszélességének ezen szintjét ugyanabban az asztali forma tényezőjében.
Az adatközponti alkalmazásokhoz olyan rendszerek, mint az NVIDIA HTX B200, amely több NVIDIA Blackwell GPU -t használ, még magasabb memória sávszélességet érhet el. A HTX B200 legfeljebb 62 terabájtot kínál a memória sávszélességének másodpercenként, jelentősen meghaladva a DGX állomás képességeit [1]. Ezeket a rendszereket azonban nagyszabású adatközpontok telepítésére tervezték, nem pedig az asztali használatra.
Maga a DGX állomás egy élvonalbeli rendszer, amely magában foglalja az NVIDIA GB300 GRACE Blackwell Ultra Desktop Superchip-et, és hatalmas 784 GB-os koherens memóriaterületet kínál. Úgy tervezték, hogy az adatközpont-szintű teljesítményt az AI fejlesztési asztali számítógépekbe hozza, így rendkívül alkalmas az AI munkaterhelésre, például a nagyszabású edzésre és a következtetésre [5] [6]. Noha nincsenek olyan bejelentett rendszerek, amelyek hasonló formában közvetlenül meghaladják a DGX állomás memória sávszélességét, a technológia fejlődése még nagyobb teljesítményű képességekkel rendelkező jövőbeli rendszerekhez vezethet.
Összefoglalva: Noha a DGX állomásnál magasabb memória sávszélességgel nincs konkrét közelgő asztali AI rendszerek, az olyan adatközpont-megoldások, mint a HTX B200, szignifikánsan nagyobb sávszélességet kínálnak a nagy léptékű alkalmazásokhoz.
Idézetek:
[1] https://www.youtube.com/watch?v=KRBH0VON-2A
[2] https://www.dalco.ch/blog/nvidia-announdes-a100-80gb-gpu/
[3] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_announces_dgx_spark_and_dgx_station/
[4] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[5] https://www.techpowerup.com/forums/threads/nvidia-announdes-dgx-park-and-dgx-station-personal-ai-computers.334300/
[6] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-ai-supercomputers
[7] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-specialized-desktop-for-ai-work
[8] https://www.fiibermall.com/blog/dgx-server.htm