NVIDIA GB10 SuperChip, joka on esitelty laitteissa, kuten ASUS ASCENT GX10 ja NVIDIA -projektinumero, on suunniteltu käsittelemään suuria AI -malleja, joissa on jopa 200 miljardia parametria useiden avaintekniikoiden ja arkkitehtonisten ominaisuuksien avulla:
1. PETAFLOP AI -esitys: GB10 -superChip tarjoaa jopa yhden PETAFlopin AI -tietojenkäsittely suorituskyvystä, mikä on ratkaisevan tärkeää suurten AI -mallien käsittelemiseksi tehokkaasti. Tämä suorituskyvyn taso mahdollistaa monimutkaisten AI-mallien nopean prototyypin, hienosäätöön ja päättelyn [1] [4].
2. yhtenäinen muisti: siru sisältää 128 Gt yhtenäistä, johdonmukaista muistia. Tämä yhtenäinen muistiarkkitehtuuri varmistaa, että sekä CPU että GPU pääsevät samaan muistitilaan, parantaen merkittävästi tiedonsiirron tehokkuutta ja vähentämällä viiveen. Tämä on erityisen tärkeää suurille AI -malleille, jotka vaativat huomattavaa muistia toimimaan tehokkaasti [3] [5].
3. Grace Blackwell -arkkitehtuuri: GB10-superkorjaus on rakennettu Nvidia Grace Blackwell -arkkitehtuuriin, joka yhdistää korkean suorituskyvyn Blackwell GPU: n 20 ytimeen ARM-pohjaisella armopohjaisella prosessorilla. Blackwell GPU: ssa on viidennen sukupolven tensorin ytimet, jotka on optimoitu AI-työmäärään, ja Grace CPU parantaa tietojen esikäsittely- ja orkesteritehtäviä [1] [4].
4. Tämä toisiinsa liittyy viisi kertaa PCIE 5.0: n kaistanleveys, joka varmistaa saumattoman tiedonsiirron ja tehokkaan yhteistyön CPU: n ja GPU: n välillä AI -laskelmien aikana [1] [3].
5. Skaalautuvuus: Vielä suuremmille malleille kaksi GB10 -superChiP -varustettua järjestelmää voidaan kytkeä käyttämällä NVIDIA ConnectX -verkkoteknologiaa. Tämän avulla käyttäjät voivat käsitellä AI -malleja, joissa on jopa 405 miljardia parametria, kuten Meta's LLAMA 3.1 -malli [2] [6].
6. FP4 -tarkkuus: GB10 SuperChip toimii FP4 -tarkkuudella, mikä parantaa laskentanopeutta likiarvojen avulla. Tämä tarkkuustaso sopii monille AI -sovelluksille, mikä tarjoaa tasapainon suorituskyvyn ja tarkkuuden välillä [2] [4].
7. Ohjelmistoyhteensopivuus: GB10-superkrip on täysin yhteensopiva NVIDIA: n AI-ohjelmistopinojen kanssa, mukaan lukien työkalut, kuten NEMO-kehys mallin hienosäätöön ja Rapids-kirjastoihin datatieteelle. Tämä yhteensopivuus varmistaa, että kehittäjät voivat hyödyntää laajaa valikoimaa AI -työkaluja ja kehyksiä työnkulkujensa optimoimiseksi [5] [6].
Kaiken kaikkiaan GB10 SuperChipin yhdistelmä korkean suorituskyvyn tietojenkäsittelyä, tehokasta muistiarkkitehtuuria ja skaalautuvaa suunnittelua tekevät siitä ihanteellisen ratkaisun suurten AI-mallien käsittelemiseen, joissa on jopa 200 miljardia parametria, demokratisoimalla pääsyn edistyneisiin AI-tietojenkäsittelyominaisuuksiin kehittäjille ja tutkijoille.
Viittaukset:
.
[2] https://www.theverge.com/2025/1/6/24337530/nvidia-ces-digits-super-computer-ai
[3] https://meta-quantum.today/?p=3460
[4] https://akihabaranews.com/nvidias-new-gb10-superchip/
.
.
[7] https://www.engineering.com/nvidia-unveils-project-digits-personal-ai-supercomputer/
[8] https://www.reddit.com/r/ollama/comments/1hvplfw/new_nvidia_ai_pc_gb10_with_128g_vram_unified/
[9.
[10] https://www.techeblog.com/nvidia-project-digits-smallest-ai-supercomputer/
.