Den samlede, sammenhængende hukommelse i GB10 SuperChip forbedrer AI -modelens ydelse markant ved at tilvejebringe en sammenhængende CPU+GPU -hukommelsesmodel. Denne arkitektur giver mulighed for effektiv dataoverførsel og adgang mellem CPU og GPU, hvilket er afgørende for AI -arbejdsbelastninger, der kræver både datapræbehandling og parallel behandling. Sådan gavner dette hukommelsessystem AI -modelydelse:
1. Effektiv dataoverførsel: GB10-superchip anvender NVIDIAs NVLINK-C2C-sammenkobling, som giver en høj båndbredde, lav-latensforbindelse mellem GPU og CPU. Denne sammenkobling tilbyder fem gange båndbredden af PCIE 5.0, hvilket sikrer, at data kan overføres hurtigt og effektivt mellem CPU og GPU, hvilket reducerer latenstid og forbedrer den samlede systemydelse [1] [4].
2. Unified Memory Access: Den samlede hukommelsesarkitektur giver både CPU og GPU adgang til det samme hukommelsesrum uden behov for eksplicit datakopiering. Dette forenkler programmering og reducerer hukommelsesstyringsomkostninger, da udviklere ikke behøver at manuelt administrere datahåndtering mellem CPU og GPU. Denne samlede adgang muliggør problemfri udførelse af opgaver, der kræver både CPU- og GPU -ressourcer, såsom dataforarbejdning og AI -modeluddannelse/inferens [1] [3].
3. Stor modelstøtte: GB10 SuperChip's Unified Memory System understøtter op til 128 GB sammenhængende systemhukommelse. Denne kapacitet er tilstrækkelig til at håndtere store AI-modeller med op til 200 milliarder parametre, hvilket giver udviklere mulighed for at prototype, finjustere og køre disse modeller direkte på deres desktops. Når det er knyttet til et andet system via NVIDIA ConnectX, kan det endda understøtte modeller med op til 405 milliarder parametre [3] [4].
4. Strømeffektivitet: Samarbejdet med MediaTek på GB10 SuperChip sikrer, at det opnår høj ydeevne, mens den opretholder effekteffektivitet. Dette gør det muligt for systemet at fungere ved hjælp af en standard elektrisk stikkontakt, hvilket gør det velegnet til desktopmiljøer uden at kræve specialiseret effektinfrastruktur [4] [5].
Sammenfattende forbedrer den samlede, sammenhængende hukommelse i GB10 SuperChip AI -modelydelsen ved at lette effektiv dataoverførsel, forenkle hukommelsesstyring, understøtter store modeller og opretholde effekteffektivitet. Disse funktioner gør det til en ideel løsning for AI -forskere og udviklere, der har brug for at arbejde med komplekse AI -modeller på en stationær skala.
Citater:
[1] https://www.asus.com/news/9ccgzbgiuaqcjvuj/
)
[3] https://www.marketscreener.com/quote/stock/asustek-computer-inc-oND6492304/news/asus-intruces-ascent-gx10-i-Supercomputer-Det-by-nvidia-gb10-grace-blackwell-superchip-49372339/by-nvidia-gb10-grace-blackwell-superchip-49372339/by-by-nvidia-gb10-grace-blackwell-superchip-493723339/by-by-nvidia-gb10-grace-blackwell-superchip-493723339/
[4] https://dirox.com/post/nvidia-project-digits
[5] https://akihabaranews.com/nvidias-new-gb10-superchip/
)
)
[8] https://www.nvidia.com/en-us/project-digits/
)