DGX Spark, ko nesen atklāja NVIDIA, ir kompakts AI superdators, kas paredzēts darbvirsmas lietošanai, padarot to pieejamu plašam izstrādātāju, pētnieku un studentu lokam. To darbina NVIDIA GB10 Grace Blackwell Superchip, kurā ietilpst Blackwell GPU ar piektās paaudzes tensora serdeņiem un FP4 atbalstu. Šī konfigurācija ļauj DGX dzirkstelim piegādāt līdz 1000 triljoniem operāciju sekundē (top) AI aprēķinātā, ļaujot tai apstrādāt AI modeļus līdz 200 miljardiem parametru secinājumiem un smalkmaize modeļiem līdz 70 miljardiem parametru [1] [3] [6].
Salīdzinot ar citiem AI superdatoriem, DGX Spark ir ievērojama ar kompakto lielumu un enerģijas efektivitāti, patērējot tikai 170 W. Tas izmanto NVIDIA NVLINK-C2C starpsavienojumu tehnoloģiju, lai nodrošinātu CPU+GPU saskaņotās atmiņas modeli, piedāvājot piecas reizes lielāku piektās paaudzes PCIe joslas platumu. Tas uzlabo atmiņu ietilpīgu AI darba slodzi [1] [3] [6].
Kamēr DGX Spark ir mazākais AI superdators, lielākas sistēmas, piemēram, DGX stacija, piedāvā jaudīgākas iespējas. DGX stacijā, kuru paziņoja arī Nvidia, ir GB300 Grace Blackwell Ultra Desktop Superchip ar 784 GB koherentas atmiņas telpas, padarot to piemērotāku liela mēroga apmācībai un secinājumu uzdevumiem [1] [4].
Plašākā AI superdatoru ainavā tādās sistēmās kā Andromeda, ko izstrādājusi Cerebras, lepojas ar iespaidīgām iespējām ar 13,5 miljoniem serdeņu un veiktspēju virs ExaFlop 16 bitu pusfitā. Andromeda ir ievērojama ar straujo montāžas laiku un rentabilitāti, salīdzinot ar tradicionālajiem superdatoriem [2].
Superdatoru spektra augšējā galā ir tādas sistēmas kā El Capitan, Frontier un Aurora, kas ir eksascale mašīnas, kas spēj veikt vairāk nekā miljardu miljardu aprēķinu sekundē. Šie superdatori galvenokārt tiek izmantoti liela mēroga zinātniskām simulācijām un AI uzdevumiem, bet tie nav paredzēti darbvirsmas lietošanai [5].
DGX Spark unikālā vērtība ir tā spēja panākt augstas veiktspējas AI skaitļošanu darbvirsmas vidē, ļaujot izstrādātājiem prototipu, precīzi noregulēt un izvietot AI modeļus lokāli, pirms mērogot mākoņu vai datu centra infrastruktūru ar minimālām koda izmaiņām [1] [6]. Tas padara to par pievilcīgu iespēju pētniekiem un izstrādātājiem, kuriem ir vajadzīgas jaudīgas AI iespējas, bez liela mēroga datu centra infrastruktūras.
Atsauces:
[1.]
.
[3] https://www.maginative.com/article/nvidia-unveils-dgx-park-and-dgx-station-desktop-ai-supercomputers-for-the-develler-masses/
.
[5] https://www.livecience.com/technology/computing/top-powerful-supercomputers
[6] https://www.engineering.com/nvidia-unveils-dgx-personal-ai-supercomputers-by-grace-blackwell/
[7] https://bgr.com/tech/nvidia-just-announced-two-new-personal-ai-supercomputers/
[8] https://qz.com/most-powerful-supercomputers-ai-Search-1851725834
.