„NVIDIA DGX“ kibirkštis pasitelkia keletą pažangių technologijų, kad padidintų atminties pralaidumą, ir tai yra labai svarbi norint optimizuoti AI darbo krūvių našumą. Čia yra pagrindiniai komponentai:
** 1. Nvidia GB10 Grace Blackwell Superchip
„DGX Spark“ esmė yra „GB10 Superchip“, kuris integruoja galingą „Nvidia Blackwell GPU“ ir „Grace“ procesorių. Ši architektūra yra specialiai sukurta palaikyti aukštos kokybės AI užduotis, užtikrinant iki 1000 trilijonų operacijų per sekundę (viršūnės), kad būtų galima sureguliuoti ir nustatyti didelius modelius. GPU pasižymi penktosios kartos tenzorių šerdimis ir FP4 tikslumu, kurie yra būtini efektyviai tvarkant sudėtingus skaičiavimus [1] [4].
** 2. „NVLINK-C2C“ sujungimo technologija
Viena iš išskirtinių funkcijų, patobulinančių atminties pralaidumą „DGX Spark“, yra „NVIDIA“ „NVLINK-C2C“ („Chip-to-Chip“) „Interconnect“ technologija. Ši technologija sukuria nuoseklų atminties modelį tarp CPU ir GPU, leisdamas jiems efektyviau dalytis duomenimis. Tai žymiai padidina pralaidumą ir siūlo iki penkis kartus didesnio nei tradicinių PCIE 5.0 jungčių. Šis padidėjęs pralaidumas yra labai svarbus atminties reikalaujančioms programoms, nes jis palengvina greitesnę prieigą prie duomenų prieigos ir apdorojimo tarp CPU ir GPU [1] [3] [4].
** 3. Vieninga LPDDR5X atmintis
„DGX“ kibirkštyje yra 128 GB vieningos LPDDR5X atminties, kuri suteikia didelės spartos sąsają, reikalingą reikalauti AI užduočių. Atminties sąsaja veikia 256 bitais, prisidedant prie įspūdingo teorinio atminties pralaidumo maždaug 273 GB/s. Tai leidžia sistemai efektyviai tvarkyti didelius duomenų rinkinius ir sudėtingus modelius [2] [7].
** 4. Greita tinklas su „ConnectX-7“
Be to, „DGX Spark“ įtraukia „ConnectX-7“ tinklų kūrimo technologiją, įgalinančią didelės spartos duomenų perdavimo galimybes iki 400 Gbps. Ši funkcija yra ypač naudinga suskirstyti kelis DGX vienetus kartu, leidžiančią jiems bendradarbiauti su plačiais AI modeliais ir duomenų rinkiniuose be didelio vėlavimo [2] [3].
Šios technologijos bendrai užtikrina, kad DGX kibirkštis galėtų efektyviai valdyti didelio masto AI darbo krūvius, maksimaliai padidindami atminties pralaidumą ir sumažinant kliūčių, susijusių su duomenų perdavimu tarp komponentų. Tai daro jį galingu įrankiu tyrėjams ir kūrėjams, dirbantiems AI ir mašinų mokymosi srityse.
Citatos:
[1] https://nvidianews.nvidia.com/news/nvidia-announces-dgx-park-and-dgx-station-personal-ai-computers
]
[3] https://www.pcmag.com/news/what-is-nvidias-dgx-tation-a-new-specifialized-desktop-line-for-ai-work
[4] https://itbrief.ca/story/nvidia-unveils-dgx-spark-dgx-station-ai-desktops
[5] https://voltrondata.com/news/nvidia-s-park-rapids-hits-the-wall-capranged-by-park---cpu-architcture
[6] https://www.stocktitan.net/news/nvda/nvidia-announces-dgx-park-and-dgx-stiation-personal- ai-vg4pfhn7jedk.html
[7] https://www.youtube.com/watch?v=KRBH0VON-2A
[8] https://www.nvidia.com/en-us/project-digits/
[9] https://www.fibermall.com/blog/dgx-gh200.htm
[10] https://www.constellationr.com/blog-news/insights/nvidia-launches-dgx-park-dgx-stiation-onersonal-ai-superkompiuteriai
[11] https://www.engineering.com/nvidia-unveils-dgx-personal-ai-supercomputers-by-grace-blackwell/