Το NVIDIA GB10 Grace Blackwell Superchip είναι ένα ισχυρό σύστημα-σε-a-chip (SOC) σχεδιασμένο να χειρίζεται τόσο την εκπαίδευση όσο και το συμπέρασμα των μοντέλων AI αποτελεσματικά. Είναι κεντρικό σε συστήματα όπως τα ψηφία έργου NVIDIA και το ASUS ASCENT GX10 AI Supercomputer, οι οποίοι στοχεύουν στην εκδημοκρατισμό της πρόσβασης σε πληροφορική υψηλής απόδοσης AI.
βασικά στοιχεία και αρχιτεκτονική
- GPU και πυρήνες τανυνοτήτων: Το GB10 SuperChip διαθέτει GPU NVIDIA Blackwell με πυρήνες Tensor πέμπτης γενιάς. Αυτοί οι πυρήνες τανυστή βελτιστοποιούνται για πολλαπλασιασμούς μήτρας, οι οποίοι είναι κρίσιμοι για τα καθήκοντα βαθιάς μάθησης. Ενισχύουν σημαντικά την απόδοση τόσο των διαδικασιών κατάρτισης όσο και των συμπερασμάτων, παρέχοντας επεξεργασία υψηλής ταχύτητας σύνθετων υπολογισμών AI.
-CPU: Το SuperChip περιλαμβάνει CPU υψηλής απόδοσης, 20 πυρήνα, το οποίο αποτελείται από 10 πυρήνες CPU Cortex X925 και 10 πυρήνες CPU 10 A725. Αυτή η CPU ενισχύει την προεπεξεργασία δεδομένων και την ενορχήστρωση, την επιτάχυνση του συντονισμού των μοντέλων και του συμπεράσματος σε πραγματικό χρόνο. Η αρχιτεκτονική ARM συμβάλλει στην αποτελεσματική διαχείριση και απόδοση ενέργειας, καθιστώντας την κατάλληλη για εφαρμογές AI Edge AI.
- Μνήμη και διασύνδεση: Το GB10 SuperChip προσφέρει 128GB ενοποιημένης συνεκτικής μνήμης, η οποία είναι απαραίτητη για το χειρισμό μεγάλων μοντέλων AI. Χρησιμοποιεί NVIDIA NVLink-C2C, παρέχοντας ένα συνεκτικό μοντέλο μνήμης CPU+GPU με σημαντικά υψηλότερο εύρος ζώνης από τις παραδοσιακές διεπαφές PCIE. Αυτή η αρχιτεκτονική εξασφαλίζει απρόσκοπτη μεταφορά δεδομένων μεταξύ της CPU και της GPU, βελτιστοποιώντας τόσο τις εργασίες κατάρτισης όσο και των συμπερασμάτων.
Δυνατότητες κατάρτισης και συμπερασμάτων
- Εκπαίδευση: Ενώ το GB10 SuperChip δεν έχει σχεδιαστεί κυρίως ως ειδικό τσιπ εκπαίδευσης όπως οι GPUs της NVIDIA, μπορεί να χειριστεί τα πρωτότυπα και την τελειοποίηση των μοντέλων AI. Ο συνδυασμός υψηλής απόδοσης GPU και CPU επιτρέπει στους προγραμματιστές να εργάζονται σε μοντέλα μικρότερων έως μεσαίων μεγέθους απευθείας στους επιτραπέζιους υπολογιστές τους. Για μεγαλύτερα μοντέλα, μπορεί να χρησιμοποιηθεί σε συνδυασμό με τις υπηρεσίες cloud για πιο εκτεταμένα καθήκοντα κατάρτισης.
-Συμπεράσματα: Το GB10 Superchip υπερέχει σε εργασίες συμπερασμάτων, εκτελώντας αποτελεσματικά τα προ-εκπαιδευμένα μοντέλα για να λαμβάνουν αποφάσεις σε πραγματικό χρόνο με βάση τα νέα δεδομένα. Η υποστήριξή του για τους πυρήνες Tensor Precision FP4 και πέμπτη γενιά επιτρέπει την γρήγορη και ακριβή επεξεργασία μοντέλων AI, καθιστώντας την ιδανική για εφαρμογές που απαιτούν ταχεία συμπεράσματα, όπως οι συσκευές Edge AI, Robotics και Smart IoT.
Επιμελητικότητα και ανάπτυξη
Τόσο τα ψηφία του έργου όσο και το ASUS Ascent GX10 επιτρέπουν την απρόσκοπτη ανάπτυξη μοντέλων AI από τοπικά περιβάλλοντα επιτραπέζιων υπολογιστών σε υποδομή cloud ή data center χρησιμοποιώντας το λογισμικό NVIDIA AI. Αυτό σημαίνει ότι οι προγραμματιστές μπορούν να πρωτοπορήσουν σε τοπικά μοντέλα και στη συνέχεια να τα αυξάνουν στο σύννεφο χωρίς σημαντικές προσαρμογές κώδικα, διευκολύνοντας τις αποτελεσματικές διαδικασίες επανάληψης και ανάπτυξης.
Συνοπτικά, το GB10 SuperChip έχει σχεδιαστεί για να ενδυναμώσει τους προγραμματιστές της AI με ένα συμπαγές αλλά ισχυρό εργαλείο τόσο για καθήκοντα κατάρτισης όσο και για συναυλίες. Ενώ είναι περισσότερο προσανατολισμένο προς το συμπέρασμα και το πρωτότυπο, οι δυνατότητές του μπορούν να επεκταθούν μέσω της ενσωμάτωσης με τις υπηρεσίες cloud για πιο εκτεταμένες ανάγκες κατάρτισης.
Αναφορές:
[1] https://www.hyperstack.cloud/blog/thought-leadership/nvidia-project-digits-all-you-ne-to-kning-about-the-blackwell-ai-supercomputer
[2] https://www.nvidia.com/en-us/project-digits/
[3] https://www.marketscreener.com/quote/stock/asustek-computer-inc-6492304/news/asus-introduces-ascent-gx10-ai-supercputer-power-by-nvidia-gb10-grace-blackwell-superchip-49372339/
[4] https://press.asus.com/news/press-releases/asus-introduces-ascent-gx-10-ai-supercputer-powered- by-nvidia-gb-10-grace-blackwell-superchip/
[5] https://www.mediatek.com/press-room/mediatek-collaborates-with-nvidia-on-the-new-nvidia-gb10-grace-blackwell-superchip-the-nvidia-project-derson-person-supercuper
[6] https://www.friendsofthemetaverse.com/blog/ai-chips-explained-training-vs-Inference-cessors-unveiled
[7] https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on-every-desk-and-at-every-developers
[8] https://www.reddit.com/r/deeplearning/comments/1hywfah/nvidia_project_digits_vs_rtx_5090_dilemma/
[9] https://meta-quantum.today/?p=3460
[10] https://newsroom.arm.com/blog/arm-nvidia-project-digits-high-performance-ai