Επί του παρόντος, ο σταθμός NVIDIA DGX είναι ένα από τα πιο ισχυρά διαθέσιμα συστήματα AI Computing, με ένα εύρος ζώνης μνήμης έως και 8 terabytes ανά δευτερόλεπτο με μνήμη HBM3E και επιπλέον 396 GB/s από τη μνήμη LPDDR5X [1] [3]. Ωστόσο, δεν υπάρχουν συγκεκριμένα επερχόμενα συστήματα που να ανακοινώνουν ότι ξεπερνούν αυτό το επίπεδο εύρους ζώνης μνήμης στον ίδιο παράγοντα μορφής επιφάνειας εργασίας.
Για εφαρμογές του κέντρου δεδομένων, συστήματα όπως το NVIDIA HTX B200, το οποίο χρησιμοποιεί πολλαπλές GPU NVIDIA Blackwell, μπορούν να επιτύχουν ακόμη υψηλότερα εύρος ζώνης μνήμης. Το HTX B200 προσφέρει έως και 62 terabytes ανά δευτερόλεπτο του εύρους ζώνης μνήμης, υπερβαίνοντας σημαντικά τις δυνατότητες του σταθμού DGX [1]. Ωστόσο, αυτά τα συστήματα έχουν σχεδιαστεί για αναπτύξεις κέντρου δεδομένων μεγάλης κλίμακας και όχι για χρήση από την επιφάνεια εργασίας.
Ο ίδιος ο σταθμός DGX είναι ένα σύστημα αιχμής, ενσωματώνοντας το NVIDIA GB300 Grace Blackwell Ultra Desktop Superchip και προσφέρει ένα τεράστιο 784 GB συνεκτικού χώρου μνήμης. Έχει σχεδιαστεί για να φέρει την απόδοση του κεντρικού επιπέδου δεδομένων σε επιτραπέζιους υπολογιστές για την ανάπτυξη του AI, καθιστώντας την ιδιαίτερα κατάλληλη για την απαιτούμενη AI φόρτος εργασίας, όπως η εκπαίδευση μεγάλης κλίμακας και το συμπέρασμα [5] [6]. Ενώ δεν υπάρχουν ανακοινωθέντα συστήματα που να ξεπερνούν άμεσα το εύρος ζώνης μνήμης του σταθμού DGX σε παρόμοιο παράγοντα μορφής, οι εξελίξεις στην τεχνολογία θα μπορούσαν να οδηγήσουν σε μελλοντικά συστήματα με ακόμη υψηλότερες δυνατότητες απόδοσης.
Συνοπτικά, ενώ δεν υπάρχουν συγκεκριμένα επερχόμενα συστήματα επιφάνειας εργασίας AI που ανακοινώθηκαν με υψηλότερο εύρος ζώνης μνήμης από το σταθμό DGX, λύσεις Data Center όπως το HTX B200 προσφέρουν σημαντικά υψηλότερο εύρος ζώνης για εφαρμογές μεγάλης κλίμακας.
Αναφορές:
[1] https://www.youtube.com/watch?v=krbh0von-2a
[2] https://www.dalco.ch/blog/nvidia-announces-a100-80gb-gpu/
[3] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_announces_dgx_spark_and_dgx_station/
[4] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[5] https://www.techpowerup.com/forums/threads/nvidia-announces-dgx-spark-and-dgx-station-personal-ai-computers.334300/
[6] https://opentools.ai/news/nvidia-unleashes-the-future-personal-ai-supercomputers
[7] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-specialized-desktop-line-for-ai-work
[8] https://www.fibermall.com/blog/dgx-server.htm