„NVLink“ jungiklis ASIC vaidina pagrindinį vaidmenį gerinant „NVLink 5.0“ veikimą, pateikdamas aukšto lygio, mažo vėlavimo sujungimo sprendimą kelių GPU sistemoms. Štai kaip tai prisideda prie geresnio našumo:
patobulintas pralaidumas ir mastelio keitimas
- Didelės spartos sujungimai: „NVLink 5.0“ siūlo dvikryptį pralaidumą 1,8 TB/s kiekvienam GPU, kiekvienas GPU palaikantis iki 18 NVLINK jungčių, esant 100 GB/s vienai jungčiai [1] [2]. „NVLink“ jungiklis ASIC praplečia šias jungtis keliuose GPU ir mazguose, įgalindamas sklandų ryšį ir tarp jų ir tarp jų. Ši sąranka palaiko iki 576 visiškai sujungtų GPU, sukurdamas masyvų skaičiavimo audinį, kuris galėtų efektyviai valdyti didelius AI modelius [1] [2].
- Mastelio keitimas: „NVLink“ jungiklis leidžia serverių platformoms, tokioms kaip „GB200 NVL72“, žymiai padidinti GPU ryšį, palaikant iki devynių kartų daugiau GPU nei tradicinės aštuonių GPU sistemos. Šis mastelio keitimas yra labai svarbus norint mokyti kelių trilijonų parametrų modelius, kai būtinas greitas duomenų keitimasis tarp GPU [1] [2].
Mažas latentinis ir efektyvus duomenų perdavimas
-Tiesioginis GPU iki GPU ryšys: „NVLink“ apeina tradicinį CPU paskirstymo ir planavimo mechanizmus, leidžiančius tiesiogiai keistis duomenimis tarp GPU. Šis dizainas sumažina duomenų perdavimo delsą ir padidina bendrą sistemos pralaidumą [4].
- SHARP protokolo integracija: Kiekviename „NVLink“ jungiklyje yra „NVIDIA“ keičiamo mastelio hierarchinės agregacijos ir redukcijos protokolo varikliai (aštriai). Aštriai pagreitina tinkle sumažinimą ir daugialypės terpės operacijas, kurios yra labai svarbios didelės spartos kolektyvinėms užduotims AI ir HPC programose [1] [2].
Vieninga atminties kaupimas ir supaprastintas programavimas
- Vieninga atmintis: „NVLink“ suteikia galimybę sukurti vieningą atminties fondą visame GPU, leidžiančią jiems sklandžiai dalytis atmintimi. Ši funkcija yra ypač naudinga dideliems modeliams ar duomenų rinkiniams, nes ji pašalina poreikį aiškiai perduoti duomenis tarp atskirų atminties telkinių, mažinant sudėtingumą ir pridėtines išlaidas [6].
- Supaprastintos programavimo modeliai: pateikdami tiesioginį, aukšto lygio ryšį tarp GPU, „NVLink“ supaprastina programavimo modelius. Kūrėjai gali sutelkti dėmesį į programų optimizavimą, nesijaudindami dėl duomenų perdavimo tarp GPU sudėtingumo [6].
energijos efektyvumas ir našumas vienam vatui
- Patobulintas energijos efektyvumas: „NVLINK“ optimizuotas duomenų perdavimas ir sumažintas delsos potraukis prisideda prie geresnio našumo vienam vatui, palyginti su tradicinėmis PCIe pagrįstomis sistemomis. Šis efektyvumas yra labai svarbus didelio masto AI ir HPC diegimui, kai energijos suvartojimas kelia didelį susirūpinimą [6].
Apibendrinant galima pasakyti, kad „NVLink Switch ASIC“ padidina „NVLink 5.0“ našumą, pateikdamas aukšto lygio plotį, mažo vėlumo ryšius, efektyviai padidindamas daugialypės GPU sistemas ir integruojant pažangius protokolus, tokius kaip „Sharp“, kad būtų galima optimizuoti duomenų apdorojimą. Šios savybės daro „NVLink“ kertinį aukštos kokybės skaičiavimo ir AI programų akmenį.
Citatos:
[1] https://www.nvidia.com/en-us/data-center/nvlink/
[2] https://www.amax.com/fifth-generation-nvidia-nvlink/
[3] https://www.fibermall.com/blog/what-is-nvidia-nvlink.htm
[4] https://www.fibermall.com/blog/analysis-nv-switch.htm
[5] https://hardwarenation.com/resources/blog/nvidia-nvlink-5-0-accelering-multi-gpu-communication/
[6] https://www.atlantic.net/gpu-server-hosting/nvidia-nlink-how-it-works-use-cess-and-critical-best-praktices/
[7] https://www.fs.com/blog/fs-an-overview-of-nvidia-nvlink-2899.html
[8] https://massedcompute.com/faq-answers/?question=how+does+pcie+5.0+compare+To+nenk+in+terms+Of+nvidia+gpu+Performance%3F