Attualmente, la stazione Nvidia DGX è uno dei più potenti sistemi di elaborazione AI disponibili, con una larghezza di banda di memoria fino a 8 terabyte al secondo con memoria HBM3E e altri 396 GB/s dalla memoria LPDDR5X [1] [3]. Tuttavia, non ci sono sistemi in arrivo specifici annunciati che superano questo livello di larghezza di banda della memoria nello stesso fattore di forma desktop.
Per le applicazioni di data center, sistemi come NVIDIA HTX B200, che utilizza più GPU NVIDIA Blackwell, possono ottenere larghezza di banda di memoria ancora più elevate. HTX B200 offre fino a 62 terabyte al secondo della larghezza di banda della memoria, superando significativamente le capacità della stazione DGX [1]. Tuttavia, questi sistemi sono progettati per distribuzioni di data center su larga scala anziché per l'uso di desktop.
La stessa stazione DGX è un sistema all'avanguardia, che incorpora il superchip desktop Ultra di NVIDIA GB300 Blackwell e offre un enorme 784 GB di spazio di memoria coerente. È progettato per portare le prestazioni a livello di data center sui desktop per lo sviluppo dell'intelligenza artificiale, rendendolo altamente adatto a carichi di lavoro di intelligenza artificiale come la formazione su larga scala e l'inferimento [5] [6]. Sebbene non ci siano sistemi annunciati che superano direttamente la larghezza di banda della memoria della stazione DGX in un fattore di forma simile, i progressi della tecnologia potrebbero portare a sistemi futuri con capacità di prestazioni ancora più elevate.
In sintesi, mentre non ci sono sistemi Desktop AI in arrivo specifici annunciati con una larghezza di banda di memoria più elevata rispetto alla stazione DGX, soluzioni per data center come l'HTX B200 offrono una larghezza di banda significativamente più alta per applicazioni su larga scala.
Citazioni:
[1] https://www.youtube.com/watch?v=krbh0von-2a
[2] https://www.dalco.ch/blog/nvidia-announces-a100-80gb-gpu/
[3] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_announces_dgx_spark_and_dgx_station/
[4] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[5] https://www.techpowerup.com/forums/threads/nvidia-announces-announces-spark-and-dgx-station-personal-ai-computer.334300/
[6] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-ai-supercomputer
[7] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-specialized-desktop-line-for-ai-work
[8] https://www.fibermall.com/blog/dgx-server.htm