Vieninga, nuosekli atmintis „GB10 Superchip“ žymiai padidina AI modelio našumą, pateikdamas darnų CPU+GPU atminties modelį. Ši architektūra leidžia efektyviai perduoti duomenis ir prieigą prie CPU ir GPU, kuris yra labai svarbus AI darbo krūviams, kuriems reikalingas tiek duomenų apdorojimas, tiek lygiagretus apdorojimas. Štai kaip ši atminties sistema naudinga AI modelio našumui:
1. Efektyvus duomenų perdavimas: „GB10 Superchip“ naudoja NVIDIA NVLINK-C2C „Interconnect“, kuris suteikia didelio juostos pločio, mažo vėlumo ryšį tarp GPU ir CPU. Šis sujungimas siūlo penkis kartus didesnį PCIE 5.0 pralaidumą, užtikrinantį, kad duomenys būtų greitai ir efektyviai perduoti tarp CPU ir GPU, mažinant delsą ir pagerinant bendrą sistemos veikimą [1] [4].
2. Vieninga atminties prieiga: Vieninga atminties architektūra leidžia tiek CPU, tiek GPU pasiekti tą pačią atminties vietą ir nereikia aiškaus duomenų kopijavimo. Tai supaprastina programavimą ir sumažina atminties valdymo pridėtines išlaidas, nes kūrėjams nereikia rankiniu būdu valdyti duomenų perdavimo tarp CPU ir GPU. Ši vieninga prieiga leidžia sklandžiai vykdyti užduotis, kurioms reikalingi tiek CPU, tiek GPU ištekliai, pavyzdžiui, duomenų išankstinis apdorojimas ir AI modelio mokymas/išvados [1] [3].
3. Didelis modelio palaikymas: „GB10 Superchip“ vieninga atminties sistema palaiko iki 128 GB nuoseklios sistemos atminties. Šios talpos pakanka, kad būtų galima tvarkyti didelius AI modelius, kurių parametrai yra iki 200 milijardų parametrų, ir tai leidžia kūrėjams atlikti prototipą, tiksliai sureguliuoti ir paleisti šiuos modelius tiesiogiai staliniuose kompiuteriuose. Kai jis yra susietas su kita sistema per „NVIDIA Connectx“, ji netgi gali palaikyti modelius, kurių parametrai yra iki 405 milijardų [3] [4].
4. Energijos efektyvumas: Bendradarbiavimas su „MediaTek“ „GB10 Superchip“ užtikrina, kad jis pasiektų aukštą našumą išlaikant energijos efektyvumą. Tai leidžia sistemai veikti naudojant standartinę elektros lizdą, todėl ji yra tinkama stalinių kompiuterių aplinkai nereikalaujant specializuotos galios infrastruktūros [4] [5].
Apibendrinant galima pasakyti, kad vieninga, nuosekli atmintis „GB10 Superchip“ padidina AI modelio našumą, palengvindama efektyvų duomenų perdavimą, supaprastindamas atminties valdymą, palaikant didelius modelius ir palaikant energijos efektyvumą. Šios savybės yra idealus sprendimas AI tyrėjams ir kūrėjams, kuriems reikia dirbti su sudėtingais AI modeliais darbalaukio skalėje.
Citatos:
[1] https://www.asus.com/news/9ccgzbgiuaqcjvuj/
[2] https://www.bigdatawire.com/this-just-in/nvidia-unveils-project-digits-personal-ai-supercomputer/
[3] https://www.marketscreener.com/quote/stock/ASUSTEK-COMPUTER-INC-6492304/news/ASUS-Introduces-Ascent-GX10-AI-Supercomputer-Powered-by-NVIDIA-GB10-Grace-Blackwell-Superchip-49372339/
[4] https://dirox.com/post/nvidia-project-pigits
[5] https://akihabaranews.com/nvidias-new-gb10-superchip/
[6] https://theexeCequePost.com/nvidia-digits-world-smallest-ai-supercomputer/
[7] https://www.engineering.com/nvidia-unveils-project-digits-personal-ai-supercomputer/
[8] https://www.nvidia.com/en-us/project-digits/
[9] https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on-every-desk-and-at-at-every-ai-developers-fingterps