„NVIDIA GB10 Grace Blackwell Superchip“ yra skirtas atlikti mašinų mokymosi užduotis, turinčias išskirtinį efektyvumą ir galią. Tai yra pagrindinis „NVIDIA“ projekto skaitmenų, asmeninio AI superkompiuterio, skirto demokratizuoti prieigą prie aukšto našumo AI skaičiavimo tyrėjams, duomenų mokslininkams ir studentams, komponentas.
Pagrindinės mašinų mokymosi savybės
- AI našumas: „GB10 Superchip“ tiekia iki 1 PETAFLOP AI našumo FP4 tikslumu, todėl jis gali paleisti didelius AI modelius, kurių parametrai yra iki 200 milijardų. Šis našumo lygis yra labai svarbus sudėtingoms mašininio mokymosi užduotims, tokioms kaip natūralios kalbos apdorojimas ir kompiuterio matymas [1] [3] [5].
-Architektūra: „Superchip“ yra pagrįstas „Nvidia Grace Blackwell“ architektūra, derinant „Nvidia Blackwell GPU“ su naujausios kartos „Cuda“ šerdimis ir penktosios kartos tensorinėmis šerdimis. Šie komponentai yra būtini pagreitinant mašininio mokymosi skaičiavimus [1] [5].
-CPU ir GPU integracija: „GB10 Superchip“ apima aukštos kokybės „Nvidia Grace“ CPU su 20 energijos taupančių šerdžių, pastatytų ant rankos architektūros. Šis CPU yra prijungtas prie GPU per „NVLINK-C2C ChIP-to-CHIP“ sujungimą, leidžiantį perduoti greitą duomenų perdavimą tarp CPU ir GPU, kuris yra gyvybiškai svarbus efektyviam mašininio mokymosi modelio mokymui ir išvadoms [1] [7].
- Atmintis ir saugykla: joje yra 128 GB vieningos, nuoseklios atminties ir iki 4 TB NVME atminties. Ši didelė atmintis ir saugojimo galimybė leidžia tvarkyti didelius duomenų rinkinius ir sudėtingus modelius, kurie būdingi mašinų mokymosi programose [1] [3].
- Mastelio keitimas: Dar reiklesnėms užduotims, naudojant du projekto skaitmenų blokus, galima susieti naudojant „NVIDIA ConnectX“ tinklą, leisdami jiems paleisti modelius, kurių parametrai yra iki 405 milijardai. Šis mastelio keitimas yra naudingas didelio masto mašininio mokymosi projektams, kuriems reikalingas paskirstytas skaičiavimas [1] [3].
Mašinų mokymosi programos
„GB10 Superchip“ yra tinkamas įvairioms mašininio mokymosi programoms, įskaitant:
- Generacinė AI: Tai gali tvarkyti sudėtingus generatyvinius modelius, naudojamus tokiose užduotyse kaip vaizdo ir teksto generavimas.
- 3D modeliavimas ir animacija: „Superchip“ palaiko užduotis, kurioms reikalinga didelė skaičiavimo galia, pavyzdžiui, perteikimas ir modeliavimas 3D aplinkoje.
- Didelių kalbos modeliai: Turint galimybę paleisti modelius iki 200 milijardų parametrų, jis idealiai tinka natūralioms kalbos apdorojimo užduotims, tokioms kaip kalbos vertimas ir teksto apibendrinimas [1] [4].
kūrimas ir diegimas
Projekto skaitmenys leidžia vartotojams kurti ir paleisti išvadas modeliams, naudojant savo darbalaukio sistemą, ir tada sklandžiai juos diegia pagreitintoje debesies ar duomenų centro infrastruktūroje. Šią darbo eigą palaiko „NVIDIA“ AI įmonės programinės įrangos platforma, kurioje yra tokios priemonės kaip „Pytorch“ ir „Jupyter“ nešiojamieji kompiuteriai, skirti modelio kūrimo ir diegimui [1] [7].
Apskritai, „GB10 Superchip“ yra skirtas kūrėjams įgalinti prototipą, tiksliai sureguliuoti ir diegti AI modelius vietoje, prieš tai padidindami juos debesies ar duomenų centro infrastruktūroje, todėl tai yra galingas įrankis mašininio mokymosi užduotims.
Citatos:
[1] https://quantumzeitgeist.com/nvidia-unveils-smallest-ai-supercomputer-for-developers-everywhere/
[2] https://news.ycombinator.com/item?id=42619139
[3] https://akihabaranews.com/nvidias-new-gb10-superchip/
[4] https://www.hp.com/us-en/workStations/workStation-pcs.html
[5] https://www.elektormagazine.com/news/project-digits-nvidia-unveils-personal-ai-spercomputer
[6] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-ai-superkompiuteriai
[7] https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on-every-desk-and-at-at-every-ai-developers-fingterps
[8] https://www.guru3d.com/news/page-2017/
[9] https://meta-quantum.today/?p=3460
[10] https://www.hyderstack.cloud/blog/thought-leadership/nvidia-project-digits-all-you-ee-need-to-know-out-backwell-ai-spercomputer
[11] https://www.nvidia.com/en-us/project-digits/