NVIDIA GB10 Grace Blackwell Superchip je zasnovan za ravnanje z nalogami strojnega učenja z izjemno učinkovitostjo in močjo. Je ključni sestavni del projektnih številk Nvidia, osebnega superračunalnika AI, namenjenega demokratiziranju dostopa do visokozmogljivega računalništva AI za raziskovalce, znanstvenike in študente.
Ključne funkcije za strojno učenje
- AI Performance: GB10 Superchip prinaša do 1 PETAFLOP AI Performance pri FP4 Precision, zaradi česar je sposoben izvajati velike modele AI z do 200 milijardami parametrov. Ta raven uspešnosti je ključnega pomena za zapletene naloge strojnega učenja, kot sta obdelava naravnega jezika in računalniški vid [1] [3] [5].
-Arhitektura: Superchip temelji na arhitekturi Nvidia Grace Blackwell, ki združuje NVIDIA Blackwell GPU z najnovejšimi jedri Cuda in jedra tenzorja pete generacije. Te komponente so bistvene za pospeševanje izračunov strojnega učenja [1] [5].
-Integracija CPU in GPU: GB10 Superchip vključuje visokozmogljiv CPU NVIDIA Grace z 20 napajalnimi jedri, zgrajenimi na arhitekturi ARM. Ta CPU je povezan z GPU prek medkonnect NVLink-C2C na čip-čip, kar omogoča prenos podatkov visokega hitrosti med CPU in GPU, kar je ključnega pomena za učinkovito usposabljanje in sklepanje o modelu strojnega učenja [1] [7].
- Pomnilnik in shranjevanje: ima 128 GB enotnega, skladnega pomnilnika in do 4TB pomnilnika NVME. Ta dovolj zmogljivost pomnilnika in shranjevanja omogočajo ravnanje z velikimi nabori in zapletenimi modeli, ki so pogosti v aplikacijah za strojno učenje [1] [3].
- razširljivost: Za še zahtevnejše naloge je mogoče z omrežjem NVIDIA Connectx povezati dve enoti projektnih števk, kar jim omogoča izvajanje modelov z do 405 milijardami parametrov. Ta razširljivost je koristna za obsežne projekte strojnega učenja, ki zahtevajo porazdeljeno računalništvo [1] [3].
Aplikacije za strojno učenje
GB10 Superchip je dobro primeren za različne aplikacije za strojno učenje, vključno z:
- Generativni AI: Lahko obvlada zapletene generativne modele, ki se uporabljajo pri nalogah, kot sta slika slike in besedila.
- 3D modeliranje in animacija: Superchip podpira naloge, ki zahtevajo visoko računalniško moč, kot sta upodabljanje in simulacija v 3D okoljih.
- Veliki jezikovni modeli: Z zmožnostjo izvajanja modelov do 200 milijard parametrov je idealen za naloge za obdelavo naravnega jezika, kot sta prevajanje jezika in povzetek besedila [1] [4].
Razvoj in uvajanje
Projektne številke uporabnikom omogočajo, da razvijejo in zaženejo sklepanje na modelih z lastnim namiznim sistemom in jih nato brez težav namestijo na pospešeno infrastrukturo v oblaku ali podatkovnem centru. Ta končni potek dela podpira NVIDIA-jeva programska platforma AI Enterprise, ki vključuje orodja, kot sta Pytorch in Jupyter prenosniki za razvoj in uvajanje modela [1] [7].
Na splošno je GB10 Superchip zasnovan tako, da razvijalcem omogoča prototip, natančno nastavitev in namestitev modelov AI lokalno, preden jih poveča na infrastrukturo v oblaku ali podatkovnem centru, zaradi česar je močno orodje za naloge strojnega učenja.
Navedbe:
[1] https://quantumzeitgeist.com/nvidia-unveils-smallest-ai-supercomputer-for-developers-everywhere/
[2] https://news.ycombinator.com/item?id=42619139
[3] https://akihabaranews.com/nvidias-new-gb10-superchip/
[4] https://www.hp.com/us-en/workstations/workstation-pcs.html
[5] https://www.elektormagazine.com/news/project-digits-nvidia-unveils-perol-ai-Supercomputer
[6] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-aa-superračunalnik
[7] https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on-every-desk-and-at-every-ai-developers-fingertips
[8] https://www.guru3d.com/news/page-2017/
[9] https://meta-quantum.today/?p=3460
[10] https://www.hyperStack.cloud/blog/thought-leadership/nvidia-project-digits-all-you-need-to-znan-about-the-blackwell-ai-supercomputer
[11] https://www.nvidia.com/en-us/project-digits/