NVIDIA GB10 Grace Blackwell Superchip ir paredzēts, lai apstrādātu mašīnu apguves uzdevumus ar izcilu efektivitāti un spēku. Tā ir galvenā NVIDIA projekta ciparu sastāvdaļa, personīgais AI superdators, kura mērķis ir demokratizēt piekļuvi augstas veiktspējas AI skaitļošanai pētniekiem, datu zinātniekiem un studentiem.
Mašīnas apguves galvenās funkcijas
- AI veiktspēja: GB10 Superchip nodrošina līdz 1 Petaflop AI veiktspējas FP4 precizitātē, padarot to spējīgu darbināt lielus AI modeļus ar līdz 200 miljardiem parametru. Šis veiktspējas līmenis ir būtisks sarežģītiem mašīnmācīšanās uzdevumiem, piemēram, dabiskās valodas apstrāde un datora redze [1] [3] [5].
-Arhitektūra: SuperChip balstās uz NVIDIA Grace Blackwell arhitektūru, apvienojot Nvidia Blackwell GPU ar jaunākās paaudzes Cuda kodoliem un piektās paaudzes tensora kodoliem. Šīs sastāvdaļas ir būtiskas, lai paātrinātu mašīnmācīšanās aprēķinus [1] [5].
-CPU un GPU integrācija: GB10 Superchip ietver augstas veiktspējas NVIDIA GRACE CPU ar 20 jaudīgu kodoliem, kas būvēti uz rokas arhitektūras. Šis CPU ir savienots ar GPU, izmantojot NVLINK-C2C mikroshēmu-mikroshēmas starpsavienojumu, ļaujot veikt ātrgaitas datu pārsūtīšanu starp CPU un GPU, kas ir būtisks efektīvai mašīnmācīšanās modeļa apmācībai un secinājumiem [1] [7].
- Atmiņa un krātuve: tam ir 128 GB vienotas, saskaņotas atmiņas un līdz 4TB NVME krātuve. Šī plašā atmiņa un atmiņas ietilpība ļauj apstrādāt lielas datu kopas un sarežģītus modeļus, kas ir raksturīgi mašīnmācīšanās lietojumprogrammās [1] [3].
- Mērogojamība: vēl prasīgākiem uzdevumiem divus projekta ciparu vienības var saistīt kopā, izmantojot NVIDIA ConnectX tīklošanu, ļaujot tām palaist modeļus ar līdz 405 miljardiem parametru. Šī mērogojamība ir izdevīga liela mēroga mašīnmācīšanās projektiem, kuriem nepieciešama sadalīta skaitļošana [1] [3].
Mašīnmācības lietojumprogrammas
GB10 SuperChip ir labi piemērots dažādām mašīnmācīšanās lietojumprogrammām, ieskaitot:
- Ģeneratīvais AI: tas var apstrādāt sarežģītus ģeneratīvos modeļus, ko izmanto tādos uzdevumos kā attēla un teksta ģenerēšana.
- 3D modelēšana un animācija: SuperChip atbalsta uzdevumus, kuriem nepieciešama liela skaitļošanas jauda, piemēram, atveidošana un simulācija 3D vidēs.
- Lielu valodu modeļi: ar iespēju palaist modeļus līdz 200 miljardiem parametru, tas ir ideāli piemērots dabiskās valodas apstrādes uzdevumiem, piemēram, valodas tulkošanai un teksta apkopošanai [1] [4].
Attīstība un izvietošana
Projekta cipari ļauj lietotājiem attīstīt un izpildīt secinājumus modeļos, izmantojot savu darbvirsmas sistēmu, un pēc tam tos nemanāmi izvietot paātrinātā mākoņa vai datu centra infrastruktūrā. Šo visaptverošo darbplūsmu atbalsta NVIDIA AI Enterprise programmatūras platforma, kurā ir tādi rīki kā Pytorch un Jupyter piezīmjdatori modeļa izstrādei un izvietošanai [1] [7].
Kopumā GB10 SuperChip ir paredzēts, lai izstrādātājiem dotu iespēju prototipu, precīzi noregulēt un izvietot AI modeļus lokāli, pirms tos palielināt mākoņa vai datu centra infrastruktūrā, padarot to par jaudīgu rīku mašīnmācīšanās uzdevumos.
Atsauces:
[1] https://quantumzeitgeist.com/nvidia-unveils-smallest-ai-supercomputer-for-developers
[2] https://news.ycombinator.com/item?id=42619139
[3] https://akihabaranews.com/nvidias-new-gb10-superchip/
[4] https://www.hp.com/us-en/workstations/workstation-pcs.html
[5] https://www.elektormagazine.com/news/project-digits-nvidia-unveils-personal-ai-supercomputer
[6.]
[7] https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on-every-desk-and-at-ate-eyr
[8] https://www.guru3d.com/news/page-2017/
[9] https://meta-quantum.today/?p=3460
[10] https://www.hyperstack.cloud/blog/thought-leadership/nvidia-project-digits-all-you-need-to-know-about-the-blackwell-ai-supercomputer
[11] https://www.nvidia.com/en-us/project-digits/