NVIDIA DGX dzirkstele, kas nesen tika paziņota par kompaktu AI superdatoru, ir nozīmīgs progress personīgajā AI skaitļošanā. Tas ir paredzēts, lai nodrošinātu augstas veiktspējas AI darba slodzēm, piedāvājot to funkcijas, kas to atšķir no citas AI aparatūras tirgū.
Veiktspējas iespējas
DGX dzirksteles pamatā ir Nvidia GB10 Grace Blackwell Superchip, kas ietver spēcīgu Blackwell GPU, kas aprīkots ar piektās paaudzes tensora kodoliem un atbalstu FP4 precizitātei. Šī arhitektūra ļauj DGX dzirkstelim sasniegt līdz 1000 triljoniem operāciju sekundē (top) AI aprēķināšanas uzdevumiem, padarot to piemērotu precizēšanai un secinājumiem ar lieliem AI modeļiem, ieskaitot tos, kuriem ir līdz 200 miljardu parametru [1] [2] [4]. Salīdzinājumam-NVIDIA A100 GPU, kas ir paredzēts datu centros un augstas veiktspējas skaitļošanas vidē, piedāvā izcilu sniegumu, bet par daudz augstākām izmaksām un sarežģītību, padarot to mazāk pieejamu atsevišķiem pētniekiem [3].
DGX Spark arhitektūrā tiek izmantota NVIDIA NVLINK-C2C starpsavienojumu tehnoloģija, nodrošinot CPU+GPU-honentent atmiņas modeli, kas piecas reizes lielāks par parastā PCIe 5.0 joslas platumu. Šī funkcija ir īpaši izdevīga atmiņas ietilpīgām darba slodzēm, ļaujot efektīvai piekļuvei datiem starp CPU un GPU [1] [4]. Sistēmā ietilpst arī 128 GB vienotas LPDDR5X atmiņas, un to var konfigurēt ar līdz 4TB NVME SSD krātuves, nodrošinot plašu vietu lielām datu kopām un ātru datu apstrādi [2] [10].
Salīdzinošā analīze ar citu AI aparatūru
Salīdzinot ar citām AI aparatūras iespējām, piemēram, NVIDIA RTX 4090 un AMD Radeon RX 7900 XTX, DGX Spark piedāvā unikālu piekļuves un veiktspējas sajaukumu. RTX 4090 nodrošina spēcīgu veiktspējas un cenu attiecību darbstaciju klases sistēmām, bet tai trūkst specializēto funkciju un atmiņas joslas platuma, ko DGX dzirkstele piedāvā specializētiem AI uzdevumiem [3]. Radeon RX 7900 XTX ir konkurētspējīgs cenu ziņā, bet saskaras ar izaicinājumiem programmatūras ekosistēmas atbalsta gadījumā, salīdzinot ar Nvidia piedāvājumiem [3].
Runājot par neapstrādātu skaitļošanas jaudu, kaut arī DGX Spark nodrošina iespaidīgu veiktspēju par tā lielumu un cenu punktu (aptuveni 3000 USD), tā joprojām ir īsa, salīdzinot ar augstas klases datu centra GPU, piemēram, A100, kas var nodrošināt vairāk nekā 19 Tflops vienas precizitātes veiktspējas un līdz 80 GB HBM2E atmiņai [6]. Tomēr A100 galvenokārt ir paredzēts uzņēmuma videi, un tai nepieciešama specializēta infrastruktūra, padarot to mazāk praktisku atsevišķiem izstrādātājiem vai mazākām komandām.
Tirgus pozicionēšana
DGX dzirkstele ir novietota kā pieejams risinājums AI pētniekiem un izstrādātājiem, kuriem ir vajadzīgas jaudīgas skaitļošanas iespējas bez sarežģītības, kas saistītas ar lielāku datu centra aparatūru. Tā kompaktā formas koeficients ļauj lietotājiem prototipu un atkārtot AI modeļos lokāli, pirms tos izvieto mākoņu vidē vai lielākās infrastruktūrās [1] [4]. Šī elastība ir būtiska tādās nozarēs kā veselības aprūpe un finanses, kur ir svarīgi strauji attīstības cikli.
Kopumā, kaut arī DGX dzirkstele var neatbilst augstas klases GPU milzīgajam spēkam, piemēram, A100 vai pat dažām RTX sērijas konfigurācijām, kad runa ir par neapstrādātām skaitļošanas iespējām, tās uzlabotās arhitektūras, ērtās lietošanas un pieejamības kombinācija padara to par pārliecinošu izvēli personīgai AI aprēķināšanai.
Atsauces:
[1.]
[2] https://www.pcmag.com/news/what-is-nvidias-dgx-station--wew-specialized-desktop-line-for-work
[3.]
.
[5] https://www.youtube.com/watch?v=krbh0von-2a
[6] https://scoop.market.us/ai-chips-statistics/
[7] https://www.amax.com/comparing-nvidia-blackwell-configurations/
[8] https://www.idtechex.com/en/research-article/which-ai-hardware-will-rise-above-in-the-wake-of-competing-ai-models/32506
[9] https://www.reddit.com/r/localllama/comments/1jedy17/nvidia_digits_specs_releed_and_renamed_to_dgx/
[10] https://www.theverge.com/news/631957/nvidia-dgx-park-grace-blackwell-ai-supercomputers-gtc
[11] https://www.turtlesai.com/en/pages-2527/nvidia-introduces-dgx-park-fka-digits-and-dgx-stacija