„NVIDIA GB10 Grace Blackwell Superchip“ yra galinga sistema ant lusto (SOC), skirta efektyviai valdyti AI modelių mokymą ir išvadą. Tai yra svarbiausia sistemų, tokių kaip „NVIDIA Project Digits“ ir „ASUS ASCENT GX10 AI Supercomputer“, kuriomis siekiama demokratizuoti prieigą prie aukšto našumo AI skaičiavimo.
Pagrindiniai komponentai ir architektūra
- GPU ir tensoro šerdys: „GB10 Superchip“ pasižymi „Nvidia Blackwell GPU“ su penktosios kartos tenzoriniais šerdimis. Šios tenzorinės šerdys yra optimizuotos matricos daugybai, kurie yra labai svarbūs atliekant giluminio mokymosi užduotis. Jie žymiai pagerina mokymo ir išvadų procesų našumą, užtikrindami spartųjų sudėtingų AI skaičiavimų apdorojimą.
-CPU: „Superchip“ apima aukštos kokybės 20 branduolių CPU, kurį sudaro 10 „Cortex X925“ centrinių centrinių šerdžių ir 10 A725 CPU šerdžių. Šis procesorius pagerina duomenų išankstinį apdorojimą ir orkestravimą, pagreitindamas modelių derinimą ir realiojo laiko išvadą. ARM architektūra prisideda prie efektyvaus energijos valdymo ir našumo, todėl ji yra tinkama „Edge AI“ programoms.
- Atmintis ir sujungimas: „GB10 Superchip“ siūlo 128 GB vieningos nuoseklios atminties, kuri yra būtina norint tvarkyti didelius AI modelius. Jis naudoja „NVIDIA NVLINK-C2C“, pateikdamas darnų CPU+GPU atminties modelį, kurio pralaidumas yra žymiai didesnis nei tradicinės PCIE sąsajų. Ši architektūra užtikrina sklandų duomenų perdavimą tarp CPU ir GPU, optimizuodama mokymo ir išvadų užduotis.
mokymo ir išvadų galimybės
- Treniruotės: Nors „GB10 Superchip“ pirmiausia nėra sukurtas kaip specialus treniruočių lustas, pavyzdžiui, NVIDIA „Tesla GPU“, jis gali valdyti AI modelių prototipų nustatymą ir tobulinimą. Jo aukštos kokybės GPU ir CPU derinys leidžia kūrėjams dirbti su mažesniais ir vidutiniais modeliais tiesiogiai staliniuose kompiuteriuose. Didesniems modeliams jis gali būti naudojamas kartu su „Cloud Services“ didesnėms mokymo užduotims.
-Išvada: „GB10 Superchip“ išsiskiria išvadų užduotimis, efektyviai vykdydamas iš anksto apmokytus modelius, kad būtų galima priimti realiojo laiko sprendimus, pagrįstus naujais duomenimis. Jos palaikymas FP4 tikslumui ir penktosios kartos „Tensor“ šerdys leidžia greitai ir tiksliai apdoroti AI modelius, todėl jis yra idealus programoms, reikalaujančioms greito išvados, tokios kaip krašto AI, robotika ir išmanieji IoT įrenginiai.
mastelio keitimas ir diegimas
Tiek projekto skaitmenys, tiek „ASUS Ascent GX10“ leidžia sklandžiai diegti AI modelius iš vietinės darbalaukio aplinkos iki debesies ar duomenų centro infrastruktūros, naudojant „NVIDIA AI“ programinę įrangą. Tai reiškia, kad kūrėjai gali prototipų modelius vietoje ir tada juos išplėsti debesyje be reikšmingų kodo pakeitimų, palengvindami efektyvų iteracijos ir diegimo procesus.
Apibendrinant galima pasakyti, kad „GB10 Superchip“ yra skirtas įgalinti AI kūrėjus kompaktišku, tačiau galingu mokymo ir išvadų užduočių įrankiu. Nors tai labiau orientuota į išvadą ir prototipų kūrimą, jos galimybes galima išplėsti integruojant debesies paslaugas, kad būtų galima gauti didesnius mokymo poreikius.
Citatos:
[1] https://www.hyderstack.cloud/blog/thought-leadership/nvidia-project-digits-all-you-ee-need-to-know-outhe-blackwell-ai-Supercomputer
[2] https://www.nvidia.com/en-us/project-digits/
[3] https://www.marketscreener.com/quote/stock/ASUSTEK-COMPUTER-INC-6492304/news/ASUS-Introduces-Ascent-GX10-AI-Supercomputer-Powered-by-NVIDIA-GB10-Grace-Blackwell-Superchip-49372339/
[4] https://press.asus.com/news/press-releases/asus-introduces-ascent-gx-10-ai-supercomputers-powered-by-nvidia-gb-10-grace-plackwell-sperchip/
[5] https://www.mediatek.com/Press-room/mediatek-collaborates-with-nvidia-onthe-ne-new-nvidia-gb10-grace-pacewell-superchip-powering-the-nvidia-Projektal-digits-Personal-SuperComputer
[6] https://www.friendsofthemetaverse.com/blog/ai-chips-explaind-training-vs-inference-processors-sevented
[7] https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on-every-desk-and-at-at-every-ai-developers-fingterps
[8] https://www.reddit.com/r/deeplearning/comments/1hywfah/nvidia_project_digits_vs_rtx_5090_dilemma/
[9] https://meta-quantum.today/?p=3460
[10] https://newsroom.arm.com/blog/arm-nvidia-project-digits-high-performance-ai