Da, scânteia NVIDIA DGX poate fi utilizată atât pentru dezvoltarea AI locală, cât și pentru implementarea cloud. Iată cum acceptă aceste capacități:
Dezvoltare AI locală
Spark DGX este proiectat ca un supercomputer AI compact, alimentat de Nvidia GB10 Grace Blackwell Superchip. Această suprapunere include un puternic GPU NVIDIA BLACKWELL, cu nuclee de tensiune de generație a cincea și suport FP4, oferind până la 1.000 de trilioane de operațiuni pe secundă de calcul AI. Acest lucru îl face ideal pentru reglarea fină și inferența cu cele mai recente modele de raționament AI, cum ar fi modelul Nvidia Cosmos World Foundation și NVIDIA GR00T N1 Robot Foundation Model [1] [2] [4].
GB10 Superchip folosește tehnologia de interconectare NVIDIA NVLink-C2C pentru a oferi un model de memorie coerentă CPU+GPU, care oferă 5x lățimea de bandă a PCIE de a cincea generație. Acest lucru îmbunătățește performanța pentru volumul de muncă pentru dezvoltatori AI intensiv în memorie, permițând cercetătorilor, oamenilor de știință de date, dezvoltatorilor de robotică și studenților să prototip și să perfecționeze modelele AI mari direct pe desktop-urile lor [1] [3] [7].
Implementarea în cloud
Platforma AI completă a NVIDIA este o caracteristică cheie a DGX Spark, permițând utilizatorilor să-și mute perfect modelele AI de pe desktop-urile lor la NVIDIA DGX Cloud sau la orice altă infrastructură accelerată de cloud sau centru de date. Acest proces nu necesită practic nicio modificare a codului, ceea ce face mai ușor prototipul, reglarea fină și iterarea fluxurilor de lucru din diferite medii [1] [2] [7].
Această flexibilitate permite dezvoltatorilor să utilizeze puterea computerelor în cloud pentru sarcini de lucru AI la scară mai mare, menținând în același timp comoditatea dezvoltării locale. Indiferent dacă rulează modele la nivel local pentru dezvoltarea inițială sau implementarea acestora în cloud pentru procesare la scară mai mare, DGX Spark oferă un flux de lucru simplificat care acceptă atât dezvoltarea AI locală, cât și cea de cloud [3] [4] [8].
Citări:
[1] https://nvidianeews.nvidia.com/news/nvidia-announces-dgx-spark-and-dgx-station-personal-A-computers
[2] https://www.nvidia.com/en-us/products/workstations/dgx-spark/
[3] https://www.ainvest.com/news/nvidia-unveils-dgx-spark-dgx-station-revolutioning-personaal-A-COMPUTING-2503
]
[5] https://www.stocktitan.net/news/nvda/nvidia-announces-dgx-spark-and-dgx-station-personal-AI-vg4pfhn7Jedk.html
[6] https://www.ainvest.com/news/nvidia-sparks-revolution-personal-AI-COMPUTING-MEET-DGX-SPARK-DGX-STATION-2503
[7] https://www.engineering.com/nvidia-unveils-dgx-personal-AI-Supercomputers-By-Grace-blackwell/
[8] https://itbrief.ca/story/nvidia-unveils-dgx-spark-dgx-tatation-AI-desktops
[9] https://www.weka.io/wp-content/uploads/2023/04/weka-nvidia-dgx-a100-systems.pdf
[10] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-pecialized-sktop-sine-for-ai-work
[11] https://www.theverge.com/news/631957/nvidia-dgx-spark-station-grace-blackwell-AI-supercomputers-gtc