Vienotā, saskaņotā atmiņa GB10 Superchip ievērojami uzlabo AI modeļa veiktspēju, nodrošinot saliedētu CPU+GPU atmiņas modeli. Šī arhitektūra ļauj veikt efektīvu datu pārsūtīšanu un piekļuvi starp CPU un GPU, kas ir būtisks AI darba slodzēm, kurām nepieciešama gan datu priekšapstrāde, gan paralēla apstrāde. Lūk, kā šī atmiņas sistēma dod labumu AI modeļa veiktspējai:
1. Efektīva datu pārsūtīšana: GB10 Superchip izmanto NVIDIA NVLINK-C2C starpsavienojumu, kas nodrošina augsta joslas platuma un zema latentuma savienojumu starp GPU un CPU. Šis starpsavienojums piecas reizes piedāvā PCIe 5.0 joslas platumu, nodrošinot, ka datus var ātri un efektīvi pārsūtīt starp CPU un GPU, samazinot latentumu un uzlabojot vispārējo sistēmas veiktspēju [1] [4].
2. Vienotā atmiņas piekļuve: Vienotā atmiņas arhitektūra ļauj gan CPU, gan GPU piekļūt vienai un tai pašai atmiņas telpai, neprasot skaidru datu kopēšanu. Tas vienkāršo programmēšanu un samazina atmiņas pārvaldības pieskaitāmās izmaksas, jo izstrādātājiem nav manuāli jāpārvalda datu pārsūtīšana starp CPU un GPU. Šī vienotā piekļuve ļauj nemanāmi izpildīt uzdevumus, kuriem nepieciešami gan CPU, gan GPU resursi, piemēram, datu priekšapstrāde un AI modeļa apmācība/secinājumi [1] [3].
3. Liels modeļa atbalsts: GB10 Superchip vienotā atmiņas sistēma atbalsta līdz 128 GB koherentas sistēmas atmiņas. Šī ietilpība ir pietiekama, lai apstrādātu lielus AI modeļus ar līdz 200 miljardiem parametru, ļaujot izstrādātājiem prototipu, precīzi noregulēt un palaist šos modeļus tieši uz galddatoriem. Kad tas ir saistīts ar citu sistēmu, izmantojot NVIDIA ConnectX, tas pat var atbalstīt modeļus ar līdz 405 miljardiem parametru [3] [4].
4. Jaudas efektivitāte: sadarbība ar Mediatek GB10 Superchip nodrošina, ka tā sasniedz augstu veiktspēju, vienlaikus saglabājot enerģijas efektivitāti. Tas ļauj sistēmai darboties, izmantojot standarta elektrības kontaktligzdu, padarot to piemērotu galddatoru videi, neprasot specializētu enerģijas infrastruktūru [4] [5].
Rezumējot, vienotā, saskaņotā atmiņa GB10 Superchip uzlabo AI modeļa veiktspēju, atvieglojot efektīvu datu pārsūtīšanu, vienkāršojot atmiņas pārvaldību, atbalstot lielus modeļus un saglabājot enerģijas efektivitāti. Šīs funkcijas padara to par ideālu risinājumu AI pētniekiem un izstrādātājiem, kuriem ir jāstrādā ar sarežģītiem AI modeļiem darbvirsmas mērogā.
Atsauces:
[1] https://www.asus.com/news/9ccgzbgiuaqcjvuj/
[2] https://www.bigdatawire.com/this-just-in/nvidia-unveils-project-digits-personal-ai-supercomputer/
.
[4] https://dirox.com/post/nvidia-project-cigits
[5] https://akihabaranews.com/nvidias-new-gb10-superchip/
[6.]
[7] https://www.engineering.com/nvidia-unveils-project-digits-personal-ai-supercomputer/
[8] https://www.nvidia.com/en-us/project-digits/
[9] https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on-every-desk-and-at-e-ery-ai-Developer-Fingertipips