Ο σταθμός NVIDIA DGX και τα προηγούμενα μοντέλα DGX, όπως ο σταθμός DGX A100 και ο παλαιότερος σταθμός DGX με GPU TESLA V100, παρουσιάζουν σημαντικές διαφορές στο εύρος ζώνης μνήμης και τη συνολική αρχιτεκτονική.
DGX Σταθμός (νέο μοντέλο)
Ο νέος σταθμός DGX είναι εξοπλισμένος με το GB300 Grace Blackwell Ultra Desktop Superchip, το οποίο περιλαμβάνει CPU Grace 72-core και μια GPU Blackwell Ultra. Αυτό το σύστημα διαθέτει έως και 288GB μνήμης GPU HBM3E και έως και 496GB μνήμης CPU LPDDR5X. Το εύρος ζώνης μνήμης για τη μνήμη GPU δεν αναφέρεται ρητά από την άποψη του GB/S, αλλά το σύστημα υποστηρίζει μέχρι 8 TB/s του εύρους ζώνης μνήμης, το οποίο είναι σημαντικά υψηλότερο από τα προηγούμενα μοντέλα. Το εύρος ζώνης μνήμης CPU είναι μέχρι 396 GB/s ** [5] [8].DGX Σταθμός A100
Ο σταθμός DGX A100 χρησιμοποιεί τέσσερις GPU NVIDIA A100 SXM4, το καθένα με 40 GB ή 80 GB μνήμης HBM2. Ενώ το συγκεκριμένο εύρος ζώνης μνήμης για αυτό το μοντέλο δεν είναι λεπτομερές, οι A100 GPU είναι γνωστές για το υψηλό εύρος ζώνης μνήμης, συνήθως περίπου 1.555 GB/s ανά GPU για τη μνήμη HBM2, η οποία θα συνολικά σε περίπου 6.220 GB/s για ολόκληρο το σύστημα [10].σταθμός DGX με GPU Tesla V100
Το παλαιότερο μοντέλο σταθμού DGX με τέσσερις GPU TESLA V100 διαθέτει 16 GB μνήμης HBM2 ανά GPU, συνολικού ύψους 64 GB μνήμης GPU. Το εύρος ζώνης μνήμης για κάθε GPU V100 είναι 900 GB/s, με αποτέλεσμα ένα συνολικό εύρος ζώνης μνήμης GPU 3,6 TB/s. Επιπλέον, το σύστημα περιλαμβάνει 256 GB μνήμης συστήματος DDR4, αλλά το εύρος ζώνης δεν είναι τόσο υψηλό όσο η μνήμη GPU [2] [9].βασικές διαφορές
- Τύπος μνήμης και εύρος ζώνης: Ο νέος σταθμός DGX χρησιμοποιεί HBM3E για μνήμη GPU, προσφέροντας σημαντικά υψηλότερο εύρος ζώνης σε σύγκριση με το HBM2 που χρησιμοποιείται σε παλαιότερα μοντέλα. Το εύρος ζώνης μνήμης CPU βελτιώνεται επίσης με LPDDR5X.- Αρχιτεκτονική: Ο νέος σταθμός DGX ενσωματώνει μια CPU Grace με μια GPU Blackwell Ultra, παρέχοντας μια πιο συνεκτική και αποτελεσματική αρχιτεκτονική για το φόρτο εργασίας AI σε σύγκριση με προηγούμενα μοντέλα.
- Η επεκτασιμότητα: Ο νέος σταθμός DGX έχει σχεδιαστεί για να υποστηρίζει πιο εκτεταμένους φόρτους εργασίας AI με την υψηλότερη χωρητικότητα μνήμης και ταχύτερες διασυνδέσεις όπως το NVLink-C2C, το οποίο προσφέρει επτά φορές το εύρος ζώνης του PCIE Gen 5 [5] [8].
Αναφορές:
[1] https://www.reddit.com/r/localllama/comments/1jedy17/nvidia_digits_specs_releaster_and_renamed_to_dgx/
[2] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[3] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-ai-supercomputers
[4] https://www.youtube.com/watch?v=krbh0von-2a
[5] https://www.notebookcheck.net/nvidia-unveils-dgx-station-desktop-ai-supercomputer-with-72-core-cpu-and-blackwell-ultra-gpu.981669.0.html
[6] https://docs.nvidia.com/dgx/dgxa100-user-guide/introduction-to-dgxa100.html
[7] https://www.techpowerup.com/forums/threads/nvidia-announces-dgx-spark-and-dgx-station-personal-ai-computers.334300/
[8] https://www.nvidia.com/en-us/products/workstations/dgx-station/
[9] https://xenon.com.au/product/nvidia-dgx-station/
[10] https://mcomputers.cz/en/products-and-services/nvidia/dgx-systems/nvidia-dgx-station-a100/