NVIDIA GB10 SuperChip suurendab märkimisväärselt AI arvutus jõudlust DGX-i sädemes, integreerides mitu tipptasemel tehnoloogiat. Siin on üksikasjalik ülevaade sellest, kuidas see selle saavutab:
1. arhitektuur ja komponendid: GB10 Superchip põhineb Nvidia Grace Blackwelli arhitektuuril, ühendades suure jõudlusega Nvidia Blackwell GPU 20-tuumalise CRPU-ga. GPU-l on viienda põlvkonna tensor-südamikud ja toetab FP4 täpsust, mis on AI tõhusa töötlemise jaoks ülioluline. CPU sisaldab 10 Cortex-X925 ja 10 Cortex-A725 südamikku, pakkudes tugevat andmete eeltöötluse ja orkestreerimise võimalusi [2] [4] [7].
2. Mälu ja ühendus: GB10 SuperChip kasutab NVIDIA NVLINK-C2C ühenduse tehnoloogiat, mis pakub ühtset CPU+GPU mälumudelit. See tehnoloogia pakub viis korda PCIE 5.0 ribalaiust, suurendades märkimisväärselt andmeedastust CPU ja GPU vahel. See on eriti kasulik mälumahuka AI töökoormuse korral, kuna see välistab vajaduse PCIE ülekande järele ja tagab sujuva juurdepääsu andmetele [1] [3] [6].
3. Ühendatud mälu: DGX -säde, mida toidab GB10 SuperChip, sisaldab 128 GB Unified LPDDR5X mälu. See ühtne mäluarhitektuur võimaldab tõhusalt käsitseda suuri AI -mudeleid, kuni 200 miljardit parameetrit, ilma et oleks vaja käsitsi mäluhaldust CPU ja GPU vahel. See võime on ülioluline suurte AI-mudelite prototüüpimiseks, peenhäälestamiseks ja haldamiseks lokaalselt [4] [5] [8].
4. AI jõudlus: GB10 SuperChip annab AI -töötlemisvõimsuse kuni 1000 tippu (triljonit toiminguid sekundis). See jõudluse tase toetab uusimate AI mõttekäikude, näiteks Nvidia Cosmos Mõist World Foundationi mudel ja GR00T N1 Robot Foundation mudelit [3] [6] [6].
5. Võrgustik ja mastaapsus: DGX Spark sisaldab NVIDIA Connectx-7 võrgustiku võimalusi, võimaldades kasutajatel ühendada kaks süsteemi veelgi suuremate AI-mudelite käsitsemiseks. See mastaapsuse funktsioon on hädavajalik mudelite haldamiseks, mille parameetrid ületavad 405 miljardit, näiteks LEMA 3.1 [5] [7].
6. Tarkvara integreerimine: DGX Spark on kaasas Nvidia AI tarkvara tööriistad eelinstalleeritud, mis töötab Ubuntu Linuxi kohandatud versioonil, mida tuntakse DGX OS -na. See seadistus lihtsustab arendusprotsessi, võimaldades AI -mudelite sujuvat juurutamist töölaualt pilve- või andmekeskuse infrastruktuuriga minimaalse koodi korrigeerimisega [5] [6].
Kokkuvõtlikult suurendab NVIDIA GB10 SuperChip DGX sädemes AI arvutus jõudlust, pakkudes võimsat GPU+CPU kombinatsiooni, suure ribalaiusega mäluühendusi, ühtse mäluarhitektuuri ja mastaapseid võrgustiku võimalusi, mis on kõik optimeeritud tõhusaks AI-töötlemiseks ja kutsutamiseks.
Tsitaadid:
]
]
[3] https://nvidianews.nvidia.com/news/nvidia-announces-dgx-spark-and-dgx-Station-Personal-Ai-Computers
]
]
]
]
[8] https://www.nvidia.com/en-us/products/workstations/dgx-park/
]
[10] https://www.nvidia.com/en-us/project-digits/
]