Home Arrow Icon Knowledge base Arrow Icon Global Arrow Icon Kā NVIDIA GB10 Superchip uzlabo AI aprēķinu veiktspēju DGX Spark


Kā NVIDIA GB10 Superchip uzlabo AI aprēķinu veiktspēju DGX Spark


NVIDIA GB10 Superchip ievērojami uzlabo AI aprēķināšanas veiktspēju DGX dzirkstelē, integrējot vairākas progresīvas tehnoloģijas. Šeit ir detalizēts pārskats par to, kā tas to sasniedz:

1. Arhitektūra un komponenti: GB10 SuperChip balstās uz Nvidia Grace Blackwell arhitektūru, apvienojot augstas veiktspējas NVIDIA Blackwell GPU ar 20 kodolu rokas centrālo procesoru. GPU ir piektās paaudzes tensora serdeņi un atbalsta FP4 precizitāti, kas ir būtiska efektīvai AI apstrādei. CPU ietver 10 Cortex-X925 un 10 Cortex-A725 serdeņus, nodrošinot stabilas datu priekšapstrādes un orķestrēšanas iespējas [2] [4] [7].

2. Atmiņa un starpsavienojums: GB10 Superchip izmanto NVIDIA NVLINK-C2C starpsavienojuma tehnoloģiju, kas nodrošina saliedētu CPU+GPU atmiņas modeli. Šī tehnoloģija piedāvā piecas reizes lielāku PCIe 5.0 joslas platumu, ievērojami uzlabojot datu pārsūtīšanu starp CPU un GPU. Tas ir īpaši izdevīgi atmiņas ietilpīgai AI darba slodzei, jo tas novērš nepieciešamību pēc PCIe pārskaitījumiem un nodrošina nemanāmu piekļuvi datiem [1] [3] [6].

3. Vienotā atmiņa: DGX dzirkstelei, kuru darbina GB10 SuperChip, ietilpst 128 GB vienotas LPDDR5X atmiņas. Šī vienotā atmiņas arhitektūra ļauj efektīvi apstrādāt lielus AI modeļus, līdz 200 miljardiem parametru, bez nepieciešamības pēc manuālas atmiņas pārvaldības starp CPU un GPU. Šī spēja ir būtiska, lai vietējā mērogā būtu prototipēšana, precizēšanai un lieliem AI modeļiem [4] [5] [8].

4. AI veiktspēja: GB10 Superchip nodrošina līdz 1000 AI apstrādes jaudas top (triljoni operāciju sekundē). Šis veiktspējas līmenis atbalsta jaunāko AI argumentācijas modeļu, piemēram, NVIDIA Cosmos Semay World World Foundation modeļa un GR00T N1 robotu fonda modeļa [3] [6], precīzi noregulēšanu un secinājumus.

5. Tīklošana un mērogojamība: DGX Spark ietver NVIDIA ConnectX-7 tīkla iespējas, ļaujot lietotājiem savienot divas sistēmas vēl lielākiem AI modeļiem. Šī mērogojamības funkcija ir būtiska modeļu pārvaldībai ar parametriem, kas pārsniedz 405 miljardus, piemēram, LLAMA 3.1 [5] [7].

6. Programmatūras integrācija: DGX dzirkstelei ir NVIDIA AI programmatūras rīki, kas iepriekš instalēti, darbojoties ar pielāgotu Ubuntu Linux versiju, kas pazīstama kā DGX OS. Šī iestatīšana vienkāršo attīstības procesu, ļaujot nemanāmi izvietot AI modeļus no darbvirsmas līdz mākoņa vai datu centra infrastruktūrai ar minimālu koda pielāgošanu [5] [6].

Rezumējot, NVIDIA GB10 Superchip in DGX Spark uzlabo AI aprēķina veiktspēju, piedāvājot jaudīgu GPU+CPU kombināciju, augsta joslas platuma atmiņas starpsavienojumus, vienotu atmiņas arhitektūru un mērogojamas tīkla iespējas, kas ir viss optimizētas efektīvai AI apstrādei un izvietošanai.

Atsauces:
[1] https://press.asus.com/news/press-releases/
[2] https://www.tomshardware.com/desktops/mini-pcs/asus-mini-supercomputer-taps-nvidia-grace-blackwell-chip-1-000-ai-Tops
[3.]
.
[5] https://www.pcmag.com/news/what-is-nvidias-dgx-station--wew-pecialized-desktop-line-for-work
[6] https://www.engineering.com/nvidia-unveils-dgx-personal-ai-supercomputers-by-grace-blackwell/
[7] https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on-every-desk-and-at-ate-eyr
[8] https://www.nvidia.com/en-us/products/workstations/dgx-park/
.
[10] https://www.nvidia.com/en-us/project-digits/
[11] https://www.techpowerup.com/330617/nvidia-puts-grace-blackwell-on-every-desk-and-at-e-ery-ai-Developers-fingertipips