Nvidia DGX Spark, cunoscută anterior sub numele de Digits Project, este concepută pentru a sprijini o gamă largă de modele AI, în special cele implicate în AI generative și fizice. Este alimentat de Nvidia GB10 Grace Blackwell Superchip, care include un puternic GPU Nvidia Blackwell, care prezintă nuclee de tensiune de generație a cincea și suport FP4. Această configurație permite DGX Spark să obțină până la 1.000 de trilioane de operații pe secundă (Tops) pentru procesarea AI, ceea ce o face potrivită pentru sarcini de reglare fină și de inferență cu modele avansate de raționament AI.
Modele AI acceptate
- NVIDIA COSMOS Motiv Modelul Fundației Mondiale: Acesta este un model de bază utilizat pentru diverse sarcini de raționament AI. Capacitățile DGX Spark îl fac o platformă ideală pentru a lucra cu astfel de modele la scară largă.
- NVIDIA GR00T N1 Model de fundație robot: Proiectat pentru aplicații robotice, acest model beneficiază de capacitățile de calcul performante ale DGX Spark, permițând dezvoltatorilor să perfecționeze și să implementeze modele AI pentru robotică în mod eficient.
-Rețele neuronale la scară largă: DGX Spark poate gestiona modele AI de până la 200 de miliarde de parametri pentru modele de inferență și reglare fină de până la 70 de miliarde de parametri. Acest lucru îl face potrivit pentru instruirea și rafinarea rețelelor neuronale complexe utilizate în aplicații precum procesarea limbajului natural, viziunea computerului și multe altele.
Caracteristici cheie pentru antrenamente AI
-Calculare de înaltă performanță: Capacitatea GB10 Superchip de a oferi performanțe de topuri ridicate asigură că modelele AI pot fi instruite și reglate rapid, chiar și pentru modele mari și complexe.
- Memorie unificată: Cu 128 GB de memorie LPDDR5X unificată, DGX Spark oferă resurse ample pentru gestionarea sarcinilor de muncă AI intensive în memorie.
-Capacități de rețea: Sistemul acceptă rețele de mare viteză prin ConnectX-7, permițând conectarea mai multor sisteme DGX Spark să lucreze la modele AI extrem de mari în colaborare.
- Eficiența energiei electrice: funcționând la doar 170W, DGX Spark oferă o soluție eficientă în energie pentru dezvoltarea AI, ceea ce o face potrivită pentru o varietate de medii.
În general, DGX Spark este conceput pentru a împuternici dezvoltatorii, cercetătorii și oamenii de știință de date, oferind o platformă compactă, dar puternică, pentru prototipare, reglare fină și implementare a modelelor AI la nivel local sau în cloud cu ajustări minime de cod [1] [3] [5].
Citări:
[1] https://nvidianeews.nvidia.com/news/nvidia-announces-dgx-spark-and-dgx-station-personal-A-computers
]
[3] https://www.theverge.com/news/631957/nvidia-dgx-spark-station-grace-blackwell-AI-supercomputers-gtc
[4] https://docs.netapp.com/us-en/netapp-solutions/ai/ai-dgx-superpod.html
[5] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-pecialized-sktop-in-for-ai-work
[6] https://www.reddit.com/r/localllama/comments/1jee2b2/nvidia_dgx_spark_project_digits_specs_are_out/
[7] https://github.com/nvidia/deeplearnexexamples/blob/master/pytorch/recommendation/dlrm/readme.md
[8] https://www.nvidia.com/en-us/products/workstations/dgx-tatation/
[9] https://www.arista.com/assets/data/pdf/whitepapers/nvidia-wp-scaling-dl-with-matrix-dgx-1-w03wp201904.pdf
[10] https://www.engineering.com/nvidia-unveils-dgx-personal-AI-Supercomputers-By-Grace-blackwell/
[11] https://www.nvidia.com/en-us/products/workstations/dgx-spark/
[12] https://www.maginative.com/article/nvidia-unveils-dgx-spark-and-dgx-station-desktop-ai-supercomputers-for-the-developer-masses/
[13] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_announces_dgx_spark_and_dgx_station/