Nvidia GB10 Grace Blackwell Superchip on loodud masinõppe ülesannete haldamiseks erakordse tõhususe ja võimsusega. See on Nvidia projekti numbrite põhikomponent, isiklik AI superarvuti, mille eesmärk on demokratiseerida juurdepääsu teadlaste, andmeteadlaste ja õpilaste jaoks suure jõudlusega AI-arvutitele.
masinõppe peamised funktsioonid
- AI jõudlus: GB10 SuperChip annab FP4 täpsusel kuni 1 petaflopi AI jõudluse, muutes selle suuri AI -mudeleid kuni 200 miljardi parameetriga. See jõudlus on ülioluline masinõppe keerukate ülesannete jaoks nagu loodusliku keele töötlemine ja arvutinägemine [1] [3] [5].
-Arhitektuur: Superchip põhineb Nvidia Grace Blackwelli arhitektuuril, ühendades Nvidia Blackwelli GPU uusima põlvkonna CUDA südamike ja viienda põlvkonna tensor-südamikega. Need komponendid on olulised masinõppe kiirendamiseks [1] [5].
-CPU ja GPU integreerimine: GB10 Superchip sisaldab suure jõudlusega Nvidia Grace CPU, mille käsivarre arhitektuurile on ehitatud 20 võimsusega tuuma. See protsessor on GPU-ga ühendatud NVLink-C2C kiibi ja Chip-i ühenduse kaudu, võimaldades kiiret andmeedastust protsessori ja GPU vahel, mis on ülioluline masinõppe mudeli tõhusaks treenimiseks ja järeldusteks [1] [7].
- Mälu ja salvestusruum: sellel on 128 GB ühtset, sidusat mälu ja kuni 4TB NVME salvestusruumi. See rohke mälu- ja salvestusmaht võimaldab suurte andmekogumite ja keerukate mudelite käitlemist, mis on tavalised masinõpperakendustes [1] [3].
- Mastaapsus: veelgi nõudlikumate ülesannete jaoks saab NVIDIA Connectxi võrgustike abil omavahel ühendada kahte projekti numbrit, mis võimaldab neil käivitada mudeleid kuni 405 miljardi parameetriga. See mastaapsus on kasulik suuremahuliste masinõppe projektide jaoks, mis nõuavad hajutatud arvutamist [1] [3].
masinõppe rakendused
GB10 SuperChip sobib hästi mitmesuguste masinõpperakenduste jaoks, sealhulgas::
- Generatiivne AI: see saab hakkama keerukate generatiivsete mudelitega, mida kasutatakse sellistes ülesannetes nagu pildi ja teksti genereerimine.
- 3D -modelleerimine ja animatsioon: SuperChip toetab ülesandeid, mis nõuavad suurt arvutuslikku energiat, näiteks renderdamist ja simuleerimist 3D -keskkonnas.
- Suure keelemudelid: võimalusega käivitada kuni 200 miljardit parameetrit, sobib see ideaalselt looduslike keele töötlemiseks, näiteks keele tõlke ja teksti kokkuvõtteks [1] [4].
arendamine ja juurutamine
Projekti numbrid võimaldavad kasutajatel oma töölauasüsteemi kasutades mudelites järeldusi arendada ja käivitada ning seejärel neid sujuvalt kiirendatud pilve- või andmekeskuse infrastruktuuril juurutada. Seda otsast lõpuni töövoogu toetab Nvidia AI Enterprise'i tarkvaraplatvorm, mis sisaldab selliseid tööriistu nagu Pytorch ja Jupyteri sülearvutid mudeli arendamiseks ja juurutamiseks [1] [7].
Üldiselt on GB10 SuperChip loodud selleks, et anda arendajatele AI-mudeleid lokaalselt prototüübile, täpsustamisele ja juurutamiseks, enne kui need pilve- või andmekeskuse infrastruktuuril üles suurendaksid, muutes selle võimsaks tööriistaks masinõppe ülesanneteks.
Tsitaadid:
]
[2] https://news.ycombinator.com/item?id=42619139
[3] https://akihabaranews.com/nvidias-new-gb10-superchip/
[4] https://www.hp.com/us-en/workstations/workstation-pcs.html
]
]
]
[8] https://www.guru3d.com/news/page-2017/
[9] https://meta-quantum.today/?p=3460
]
[11] https://www.nvidia.com/en-us/project-digits/