NVIDIA DGX Spark izmanto vairākas progresīvas tehnoloģijas, lai uzlabotu atmiņas joslas platumu, kas ir svarīgi, lai optimizētu veiktspēju AI darba slodzēs. Šeit ir galvenās sastāvdaļas:
** 1. NVIDIA GB10 GRACE Blackwell Superchip
DGX dzirksteles pamatā ir GB10 Superchip, kas integrē spēcīgu Nvidia Blackwell GPU un žēlastības procesoru. Šī arhitektūra ir īpaši izstrādāta, lai atbalstītu augstas veiktspējas AI uzdevumus, nodrošinot līdz 1000 triljoniem operāciju sekundē (top), lai precīzi noregulētu un secinātu lielus modeļus. GPU ir piektās paaudzes tensora serdeņi un FP4 precizitāte, kas ir nepieciešami sarežģītu aprēķinu efektīvai apstrādei [1] [4].
** 2. NVLink-C2C starpsavienojuma tehnoloģija
Viena no izcilākajām funkcijām, kas uzlabo atmiņas joslas platumu DGX Spark, ir Nvidia NVLink-C2C (Chip-to-chip) starpsavienojumu tehnoloģija. Šī tehnoloģija rada saskaņotu atmiņas modeli starp CPU un GPU, ļaujot tām efektīvāk koplietot datus. Tas ievērojami palielina joslas platumu, piedāvājot līdz piecām reizēm tradicionālajiem PCIe 5.0 savienojumiem. Šis palielinātais joslas platums ir kritisks atmiņas intensīvām lietojumprogrammām, jo tas atvieglo ātrāku piekļuvi datiem un apstrādi starp CPU un GPU [1] [3] [4].
** 3. Vienotā LPDDR5X atmiņa
DGX dzirkstele ir aprīkota ar 128 GB vienotu LPDDR5X atmiņu, kas nodrošina ātrdarbīgu saskarni, kas nepieciešama AI uzdevumu pieprasīšanai. Atmiņas interfeiss darbojas ar 256 bitiem, veicinot iespaidīgo teorētiskās atmiņas joslas platumu aptuveni 273 GB/s. Tas ļauj sistēmai efektīvi apstrādāt lielas datu kopas un sarežģītus modeļus [2] [7].
** 4. Ātrgaitas tīkls ar connectX-7
Turklāt DGX Spark iekļauj ConnectX-7 tīkla tehnoloģiju, nodrošinot ātrgaitas datu pārsūtīšanas iespējas līdz 400 Gbps. Šī funkcija ir īpaši izdevīga, lai apvienotu vairākas DGX vienības kopā, ļaujot tām sadarboties ar plašiem AI modeļiem un datu kopām bez nozīmīga latentuma [2] [3].
Šīs tehnoloģijas kolektīvi nodrošina, ka DGX dzirkstele var efektīvi pārvaldīt liela mēroga AI darba slodzes, maksimāli palielinot atmiņas joslas platumu un samazinot sašaurinājumus, kas saistīti ar datu pārsūtīšanu starp komponentiem. Tas padara to par spēcīgu rīku pētniekiem un izstrādātājiem, kas strādā AI un mašīnmācīšanās laukos.
Atsauces:
[1.]
[2] https://www.reddit.com/r/localllama/comments/1jedy17/nvidia_digits_specs_releed_and_renamed_to_dgx/
[3.]
[4] https://itbrief.ca/story/nvidia-unveils-dgx-park-dgx-station-ai-desktops
[5] https://voltrondata.com/news/nvidia-s-park-rapids-hits-the-wall-contred-by-spark-cpu-arhitektūra
[6.]
[7] https://www.youtube.com/watch?v=krbh0von-2a
[8] https://www.nvidia.com/en-us/project-digits/
[9] https://www.fibermall.com/blog/dgx-gh200.htm
[10] https://www.constellationr.com/blog-news/insights/nvidia-launches-dgx-park-dgx-station-personal-ai-supercomputers
[11] https://www.engineering.com/nvidia-unveils-dgx-personal-ai-supercomputers-by-grace-blackwell/