„GB10 Superchip“, pagrindinis „NVIDIA“ projekto skaitmenų komponentas, yra skirtas efektyviai tvarkyti didelius duomenų rinkinius ir sudėtingus AI modelius. Čia pateikiama išsami apžvalga, kaip tai pasiekia:
Architektūra ir komponentai
„GB10 Superchip“ yra paremtas „Nvidia Grace Blackwell“ architektūra, derinant aukštos kokybės „Nvidia Blackwell GPU“ su 20 branduolių „Nvidia Grace“ CPU, pastatytu ant rankos architektūros. Šis SOC dizainas apima naujausios kartos CUDA šerdes ir penktosios kartos tenzorinius šerdes, kurios yra labai svarbios pagreitinant AI skaičiavimus [1] [4] [7]. GPU puikiai tinka lygiagrečiai apdoroti AI modelio mokymą ir išvadą, o CPU efektyviai atlieka kitas užduotis [4].
Atmintis ir saugojimas
Kiekviename „Project Skaitmeninio“ bloke yra 128 GB vieningos, nuoseklios atminties, kuri užtikrina sklandų duomenų prieigą prie didelio masto AI modelių ir sumažina latenciją treniruočių sesijų metu [3] [6]. Be to, sistema apima iki 4 TB NVME saugyklos, užtikrinančią greitį ir talpą, reikalingą tvarkant masinius duomenų rinkinius ir įgalinant greitą skaitymo/rašymo operacijas [6] [7]. Šis atminties ir atminties derinys leidžia kūrėjams paleisti sudėtingus AI modelius, kurių parametrai yra iki 200 milijardų parametrų [9].
„Interconnect“ technologija
„GB10 Superchip“ naudoja „NVLINK-C2C ChIP-CHIP-CHIP“ sujungimo technologiją, kuri suteikia didelio juostos pločio, mažo vėlumo ryšį tarp GPU ir CPU. Tai įgalina efektyvų duomenų perdavimą ir sumažina delsą, leidžiančią greitą vamzdyną ir galingą našumą [4] [7].
Tinklo ir mastelio keitimas
„NVIDIA ConnectX“ tinklas leidžia susieti du projekto skaitmenų blokus, leidžiančius palaikyti modelius, kurių parametrai yra iki 405 milijardai. Ši mastelio funkcija yra labai svarbi kuriant ir diegant sudėtingas AI programas, nes tai leidžia kūrėjams išplėsti savo modelius, kad būtų patenkinti reikalaujančių užduočių poreikiai [1] [3] [10].
energijos efektyvumas
Bendradarbiavimas su „Mediatek“, „ARM“ pagrįstų SOC dizaino lyderiu, prisidėjo prie „GB10 Superchip“ geriausios klasės energijos efektyvumo, našumo ir ryšio. Tai reiškia, kad projekto skaitmenys gali užtikrinti galingą našumą naudojant tik standartinę elektrinę lizdą, todėl jis tinka naudoti staliniams kompiuteriams, nepatirdami didelių energijos sąnaudų [4] [7].
programinės įrangos palaikymas
Projekto skaitmenys yra iš anksto įkeliami naudojant visą „NVIDIA AI Enterprise“ programinės įrangos kaminą, įskaitant bibliotekas, rėmus ir orkestravimo įrankius. Ši sąranka leidžia sklandžiai integruoti su debesų ar duomenų centro infrastruktūromis, leidžiančiomis kūrėjams suteikti prototipą vietoje ir pagal poreikį išplėsti savo sprendimus [3] [10]. Sistema veikia „Linux“ pagrindu sukurtoje DGX OS, užtikrinant tvirtą AI plėtros aplinką [9].
Apskritai, „GB10 Superchip“ pažangiųjų architektūros, efektyvios atminties ir saugojimo, didelės spartos jungčių ir keičiamų tinklų kūrimo galimybių derinys daro jį idealiu pasirinkimu tvarkant didelius duomenų rinkinius ir sudėtingus AI modelius, ypač tokiose programose kaip natūralios kalbos apdorojimas ir kompiuterio matymas.
Citatos:
[1] https://quantumzeitgeist.com/nvidia-unveils-smallest-ai-supercomputer-for-developers-everywhere/
[2] https://www.hostzealot.com/blog/news/ai-supercomputer-from-nvidia-that-can-run-200b -parameter-models
[3] https://hackernoon.com/project-digits-nvidias-leap-intoonal-ai-superkompiutinė
[4] https://dirox.com/post/nvidia-project-pigits
[5] https://www.bigdatawire.com/2025/01/10/inside-nvidias-new-desktop-ai-box-project-digits/
[6] https://www.cxodigitalpulse.com/nvidia-launches-project-pigits-Empowing-ai-research-with-gb10-grace-blackwell-sperchip/
[7] https://www.bigdatawire.com/this-just-in/nvidia-unveils-project-digits-personal-ai-supercomputer/
[8] https://www.reddit.com/r/localllama/comments/1hvj1f4/now_this_is_interestring/
[9] https://www.nvidia.com/en-us/project-digits/
[10] https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on-every-desk-and-at-at-every-ai-developers-fingterps