NVIDIA DGX dzirkstele, kas agrāk bija pazīstama kā projekta cipari, ir paredzēta, lai atbalstītu plašu AI modeļu klāstu, jo īpaši tie, kas iesaistīti ģeneratīvā un fiziskā AI. To darbina NVIDIA GB10 Grace Blackwell Superchip, kurā ietilpst spēcīgs Nvidia Blackwell GPU, kurā ir piektās paaudzes tenzora serdeņi un FP4 atbalsts. Šī konfigurācija ļauj DGX dzirkstelim sasniegt līdz 1000 triljoniem operāciju sekundē (top) AI apstrādei, padarot to piemērotu precizēšanai un secinājumu uzdevumiem ar uzlabotiem AI spriešanas modeļiem.
atbalstīja AI modeļus
- NVIDIA COSMOS SAGLABĀJUMA PASAULES FONDIJAS PARAUGS: Šis ir pamata modelis, ko izmanto dažādiem AI spriešanas uzdevumiem. DGX Spark iespējas padara to par ideālu platformu darbam ar šādiem liela mēroga modeļiem.
- NVIDIA GR00T N1 robotu fonda modelis: Paredzēts robotikas lietojumiem, šis modelis gūst labumu no DGX Spark augstas veiktspējas skaitļošanas iespējām, ļaujot izstrādātājiem efektīvi uzlabot un izvietot AI modeļus robotikai.
-Liela mēroga neironu tīkli: DGX dzirkstele var apstrādāt AI modeļus līdz 200 miljardiem parametru secinājumiem un precizētiem modeļiem līdz 70 miljardiem parametru. Tas padara to piemērotu sarežģītu neironu tīklu apmācībai un pilnveidošanai, ko izmanto tādās lietojumprogrammās kā dabiskās valodas apstrāde, datora redze un daudz kas cits.
AI apmācības galvenās iezīmes
-Augstas veiktspējas skaitļošana: GB10 SuperChip spēja nodrošināt augstas TOPS veiktspēju nodrošina, ka AI modeļus var ātri apmācīt un precīzi noregulēt pat lieliem un sarežģītiem modeļiem.
- Vienota atmiņa: ar 128 GB vienotu LPDDR5X atmiņu DGX dzirkstele nodrošina plašus resursus atmiņas ietilpīgas AI darba slodzes apstrādei.
-Tīklošanas iespējas: sistēma atbalsta ātrgaitas tīklošanu, izmantojot ConnectX-7, ļaujot savienot vairākas DGX Spark sistēmas, lai sadarbotos īpaši lielos AI modeļos.
- Jaudas efektivitāte: darbojoties tikai ar 170W, DGX Spark piedāvā enerģijas efektīvu risinājumu AI izstrādei, padarot to piemērotu dažādām vidēm.
Kopumā DGX dzirkstele ir paredzēta, lai ļautu izstrādātājiem, pētniekiem un datu zinātniekiem, nodrošinot kompaktu, bet jaudīgu platformu prototipēšanai, precizēšanai un AI modeļu izvietošanai lokāli vai mākonī ar minimālu koda pielāgošanu [1] [3] [5].
Atsauces:
[1.]
.
[3.]
[4] https://docs.netapp.com/us-en/netapp-solutions/ai/ai-dgx-superpod.html
[5] https://www.pcmag.com/news/what-is-nvidias-dgx-station--wew-pecialized-desktop-line-for-work
[6] https://www.reddit.com/r/localllama/comments/1jee2b2/nvidia_dgx_spark_project_digits_specs_are_out/
[7] https://github.com/nvidia/deeplearningexamples/blob/master/pytorch/recommendation/dlrm/readme.md
[8] https://www.nvidia.com/en-us/products/workstations/dgx-station/
[9] https://www.arista.com/assets/data/pdf/whitepapers/nvidia-wp-scaling-dl-with-matrix-dgx-1-w03wp201904.pdf
.
[11] https://www.nvidia.com/en-us/products/workstations/dgx-park/
[12] https://www.maginative.com/article/nvidia-unveils-dgx-park-and-dgx-station-desktop-ai-supercomputers-for-the-developer-masses/
[13] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_announces_dgx_spark_and_dgx_station/