Nvidia GB10 Grace Blackwell Superchip on võimas süsteem-Chip (SOC), mis on loodud nii AI-mudelite väljaõppe kui ka järeldamise tõhusaks käsitlemiseks. See on keskne süsteemide jaoks nagu NVIDIA Project Duits ja ASUS Ascent GX10 AI superarvuti, mille eesmärk on demokratiseerida juurdepääsu suure jõudlusega AI-arvutitele.
Põhikomponendid ja arhitektuur
- GPU ja Tensor Cores: GB10 SuperChip-l on Nvidia Blackwelli GPU koos viienda põlvkonna tensor-südamikega. Need tensor -südamikud on optimeeritud maatriksi korrutamiseks, mis on üliolulised sügava õppe ülesannete jaoks. Need suurendavad märkimisväärselt nii treeningu- kui ka järeldamisprotsesside toimivust, pakkudes keerukate AI arvutuste kiiret töötlemist.
-CPU: SuperChip sisaldab suure jõudlusega 20-tuumalist ARM CPU, mis koosneb 10 Cortex X925 CPU südamikust ja 10 A725 CPU südamikust. See CPU täiustab andmete eeltöötlemist ja orkestratsiooni, kiirendades mudelite häälestamist ja reaalajas järeldamist. ARM -arhitektuur aitab kaasa tõhusale energiahaldusele ja jõudlusele, muutes selle sobivaks AI rakenduste jaoks.
- Mälu ja ühendus: GB10 SuperChip pakub 128 GB ühtset sidusat mälu, mis on suurte AI -mudelite käsitsemiseks hädavajalik. See kasutab NVIDIA NVLINK-C2C, pakkudes ühtekuuluvat CPU+GPU mälumudelit, millel on oluliselt suurem ribalaius kui traditsiooniliste PCIE liideste. See arhitektuur tagab sujuva andmeedastuse protsessori ja GPU vahel, optimeerides nii treeninguid kui ka järeldusi.
Treening- ja järeldusvõimalused
- Treening: Kuigi GB10 SuperChip ei ole peamiselt loodud spetsiaalse treeningkiipina nagu Nvidia Tesla GPU-d, saab see hakkama AI-mudelite prototüüpimise ja peenhäälestamisega. Selle suure jõudlusega GPU ja CPU kombinatsioon võimaldab arendajatel töötada väiksemate ja keskmise suurusega mudelitel otse oma lauaarvutites. Suuremate mudelite jaoks saab seda kasutada koos Cloud Services'iga ulatuslikumate koolitusülesannete jaoks.
-Järeldus: GB10 SuperChip paistab silma järelduste ülesannetes, täites eelnevalt koolitatud mudeleid tõhusalt, et teha reaalajas otsuseid uute andmete põhjal. Selle toetus FP4 täpsusele ja viienda põlvkonna tensor-südamikele võimaldab AI-mudelite kiiret ja täpset töötlemist, muutes selle ideaalseks kiireks järelduseks vajavate rakenduste jaoks, näiteks Edge AI, robootika ja nutikate asjade Interneti-seadmed.
skaleeritavus ja juurutamine
Nii projekti numbrid kui ka ASUS Ascent GX10 võimaldavad AI -mudelite sujuvat juurutamist kohalikust töölauakeskkonnast pilve- või andmekeskuse infrastruktuurile NVIDIA AI tarkvara abil. See tähendab, et arendajad saavad mudeleid lokaalselt prototüübida ja seejärel neid pilves skaleerida ilma oluliste koodide korrigeerimiseta, hõlbustades tõhusaid iteratsiooni- ja juurutamisprotsesse.
Kokkuvõtlikult võib öelda, et GB10 SuperChip on loodud selleks, et anda AI arendajatele kompaktse, kuid võimsa tööriista võimaldamine nii treeningute kui ka järelduste ülesannete täitmiseks. Ehkki see on rohkem suunatud järeldustele ja prototüüpimisele, saab selle võimalusi laiendada integreerimise kaudu pilveteenustega ulatuslikumate koolitusvajaduste saamiseks.
Tsitaadid:
]
[2] https://www.nvidia.com/en-us/project-digits/
]
]
]
]
]
]
[9] https://meta-quantum.today/?p=3460
]