Poenoten, koherenten pomnilnik v GB10 Superchip znatno poveča delovanje modela AI z zagotavljanjem kohezivnega pomnilnika CPU+GPU. Ta arhitektura omogoča učinkovit prenos podatkov in dostop med CPU in GPU, kar je ključnega pomena za delovne obremenitve AI, ki zahtevajo tako predhodno obdelavo podatkov kot vzporedno obdelavo. Tukaj je, kako ta pomnilniški sistem koristi uspešnosti modela AI:
1. Učinkovit prenos podatkov: GB10 Superchip uporablja NVIDIA-jev NVLINK-C2C Interconnect, ki zagotavlja visoko pasovno širino, nizko zamudo med GPU in CPU. Ta medsebojna povezava ponuja petkratno pasovno širino PCIe 5.0, kar zagotavlja, da se lahko podatki hitro in učinkovito prenesejo med CPU in GPU, kar zmanjšuje zamude in izboljšuje celotno učinkovitost sistema [1] [4].
2. Poenoten dostop do pomnilnika: Enotna arhitektura pomnilnika omogoča, da sta CPU in GPU dostop do istega pomnilniškega prostora brez potrebe po izrecnem kopiranju podatkov. To poenostavi programiranje in zmanjšuje režijske stroške upravljanja pomnilnika, saj razvijalcem ni treba ročno upravljati prenosov podatkov med CPU in GPU. Ta poenoten dostop omogoča brezhibno izvajanje nalog, ki zahtevajo tako vire CPU kot GPU, kot sta predhodno obdelavo podatkov in AI modelno usposabljanje/sklepanje [1] [3].
3. Podpora velikega modela: Unični pomnilniški sistem GB10 Superchip podpira do 128 GB skladnega sistema. Ta zmogljivost zadostuje za ravnanje z velikimi modeli AI z do 200 milijardami parametrov, ki razvijalcem omogočajo prototip, natančno prilagoditev in vodenje teh modelov neposredno na svojih namizjih. Če je povezan z drugim sistemom prek Nvidia ConnectX, lahko celo podpira modele z do 405 milijardami parametrov [3] [4].
4. Učinkovitost moči: Sodelovanje z MediaTekom na GB10 Superchip zagotavlja, da doseže visoko zmogljivost, hkrati pa ohranja učinkovitost moči. To omogoča, da sistem deluje s standardno električno vtičnico, zaradi česar je primeren za namizna okolja, ne da bi potreboval specializirano električno infrastrukturo [4] [5].
Če povzamemo, združen, skladen pomnilnik v GB10 Superchip poveča delovanje modela AI z olajšanjem učinkovitega prenosa podatkov, poenostavitvijo upravljanja pomnilnika, podpiranjem velikih modelov in ohranjanjem učinkovitosti moči. Te lastnosti so idealna rešitev za raziskovalce in razvijalce AI, ki morajo delati s kompleksnimi modeli AI na namizju.
Navedbe:
[1] https://www.asus.com/news/9ccgzbgiuaqcjvuj/
[2] https://www.bigdatawire.com/this-just-in/nvidia-unveils-project-digits-peral-ai-supercomputer/
[3] https://www.marketscreener.com/quote/stock/ASUSTEK-COMPUTER-INC-6492304/news/ASUS-Introduces-Ascent-GX10-AI-Supercomputer-Powered-by-NVIDIA-GB10-Grace-Blackwell-Superchip-49372339/
[4] https://dirox.com/post/nvidia-project-digits
[5] https://akihabaranews.com/nvidias-new-gb10-superchip/
[6] https://theexecutivepost.com/nvidia-digits-world-smallest-ai-supercomputer/
[7] https://www.engineering.com/nvidia-unveils-project-digits-perol-ai-supercomputer/
[8] https://www.nvidia.com/en-us/project-digits/
[9] https://nvidiaws.nvidia.com/news/nvidia-puts-grace-blackwell-on-every-desk-and-at-every-ai-developers-fingertips