„NVLINK 5.0“ vaidina pagrindinį vaidmenį tobulinant „Exascale Computing“, žymiai padidindamas duomenų perdavimo tarp GPU greitį ir efektyvumą sistemoje. Štai kaip tai prisideda:
patobulintas pralaidumas ir greitis
„NVLINK 5.0“ siūlo puikų dvikrypčio pralaidumą - 1,8 terabaitų per sekundę (TB/s), kuris yra dvigubai didesnis nei jo pirmtako, „NVLink 4.0“, ir daugiau nei 14 kartų didesnis nei PCIE gen5 [1] [4]. Šis esminis pralaidumo padidėjimas leidžia greičiau keistis duomenimis tarp GPU, kuris yra labai svarbus norint tvarkyti masinius duomenų rinkinius, būdingus „Exascale Computing“ programose.mastelio ir kelių GPU ryšys
Ši technologija palaiko iki 18 NVLINK jungčių vienam GPU, kiekvienam veikiant 100 GB/s, palengvindama sklandų ryšį tarp kelių GPU [1] [4]. Šis mastelio keitimas yra būtinas atliekant „Exascale Computing“, kai sudėtingiems modeliavimams ir didelio masto AI modeliams reikia daugybės GPU suderintų pastangų.„NVLink Switch“ technologija
„NVLink“ jungiklis yra kritinis komponentas, leidžiantis bendrauti visam GPU ryšiui visu „NVLink“ greičiu, tiek serverio lentynose, tiek tarp jų [4]. Ši galimybė leidžia sukurti didelio masto GPU klasterius, veiksmingai paverčiant duomenų centrą vienu, aukštos kokybės skaičiavimo subjektu. Jungiklis palaiko iki 576 GPU viename domene, žymiai išplėsdamas skaičiavimų, kuriuos galima atlikti, skalę [4].palaikymas trilijono parametrų AI modeliams
„NVLink 5.0“ yra skirtas paremti AI modelių kūrimą ir mokymą trilijonų ir kelių trilijonų parametrų parametrais. Pateikdamas greitą ir efektyvų ryšį su visais GPU serverių klasteryje, jis atsižvelgia į didėjantį greitesnio mastelio sujungimo, reikalingo šiems sudėtingiems modeliams, paklausą [4] [9].Duomenų kliūčių mažinimas
Didelio našumo skaičiavime duomenų kliūtys yra didelis iššūkis. „NVLink 5.0“ palengvina šias kliūtis užtikrinant, kad duomenys būtų greitai ir efektyviai keičiami tarp GPU. Tai sumažina sudėtingų skaičiavimų laiką, leidžiantį tyrėjams greičiau sutelkti dėmesį į įžvalgų ir rezultatų sukūrimą [3] [5].Išvada
„NVLink 5.0“ yra kertinis akmens technologija siekiant „Exascale Computing“, siūlanti precedento neturintį pralaidumą ir mastelį, kurie yra būtini šioje srityje reikalingos masinės skaičiavimo apkrovos ir duomenų perdavimo tvarkymui. Jos integracija su „NVLink Switch“ technologija dar labiau sustiprina jos galimybes, todėl tai yra pagrindinis elementas kuriant būsimas aukštos kokybės skaičiavimo platformas.Citatos:
[1] https://hardwarenation.com/resources/blog/nvidia-nvlink-5-0-accelering-multi-gpu-communication/
[2] https://en.wikichip.org/wiki/nvidia/nvlink
[3] https://www.atlantic.net/gpu-server-hosting/nvidia-nlink-how-it-works-use-cess-and-critical-best-praktices/
[4] https://www.amax.com/fifth-generation-nvidia-nvlink/
[5] https://www.hpcwire.com/2024/03/25/nvlink-faster-interconnects-and-switches-to-help--relive-data-bottlenecks/
[6] https://www.serversimply.com/blog/evolution-of-nvidia-data-center-gpus
[7] https://www.anandtech.com/show/21310/nvidia-blackwell-architcture-and-b200b100-acelerators-bestern-the-bigger-with-smaller-data
[8] https://www.fibermall.com/blog/nvidia-nvlink.htm
[9] https://www.nvidia.com/en-us/data-center/nvlink/
[10] https://hc34.hotchips.org/assets/program/conference/day2/network%20and%20Switches/nvswitch%20Hotchips%202022%20r5.pdf
