Penktosios kartos NVLINK, pristatyta 2024 m., Reikia reikšmingos pažangos dėl savo pirmtakų, ypač kalbant apie pralaidumą ir mastelį. Čia yra pagrindiniai skirtumai tarp „NVLink 5.0“ ir ankstesnių kartų:
pralaidumas ir greitis
- „NVLINK 5.0“ žymiai padidina pralaidumą, užtikrinantį 1,8 TB/s bendro dvikrypčio pralaidumo vienam GPU. Tai pasiekiama per 18 NVLINK jungčių, kurių kiekviena gali būti 50 GB/s kiekvienoje kryptimi, iš viso 100 GB/s kiekvienoje jungtyje, dvikrypte [1] [4].- „NVLINK 4.0“, rastas „Hopper GPU“, taip pat palaiko 18 jungčių, tačiau mažesniu greičiu - 50 GB/s vienoje jungtyje, todėl bendras pralaidumas yra 900 GB/s [7].
- „NVLINK 3.0“, naudojamas „Ampere GPUS“, pavyzdžiui, A100, palaiko iki 12 jungčių, kurių pralaidumas yra 50 GB/s kiekvienoje jungtyje, iš viso pasiekdamas 600 GB/s [7].
mastelio keitimas ir architektūra
- „NVLINK 5.0“ yra skirtas „Blackwell“ architektūrai, optimizuotas daugialypės GPU sistemoms. Tai įgalina sklandų ryšį tarp šimtų GPU, todėl jis yra idealus egzistuojantiems skaičiavimams ir dideliems AI modeliams [1] [4].- Ankstesnės kartos, kartu palaikančios daugialypės GPU konfigūracijas, nepasiūlė tokio paties lygio mastelio kaip „NVLink 5.0“. Pavyzdžiui, „NVLink 4.0“ buvo naudojamas „Hopper GPUS“, kuris taip pat palaikė didelio masto GPU konfigūracijas, tačiau su mažesniu pralaidumu [7].
Technologija ir tarpusavio ryšys
- „NVLINK 5.0“ naudoja patobulintą PAM4 diferencialinės poros signalizaciją, panašią į „NVLink 4.0“, tačiau su didesniu duomenų perdavimo greičiu vienoje juostoje [7].-„NVLink“ jungikliai vaidina lemiamą vaidmenį „NVLINK 5.0“, leidžiant efektyviai bendrauti tarp GPU. „NVLINK 5“ jungiklis siūlo 144 prievadus, kurių neužblokavimo perjungimo talpa yra 14,4 TB/s, žymiai padidindamas kelis serverius [4].
Programos ir našumas
- „NVLINK 5.0“ yra optimizuotas aukšto našumo skaičiavimo programoms, ypač toms, kurios apima didelius AI modelius ir „Exascale Computing“. Padidėjęs jo pralaidumas leidžia greičiau keistis duomenimis tarp GPU, o tai yra labai svarbu atliekant sudėtingas AI ir giluminio mokymosi užduotis [1] [4].- Ankstesnės kartos taip pat buvo sutelktos į didelio našumo pritaikymą, tačiau jas apribojo mažesnis pralaidumas. NVLINK 3.0 ir 4.0 buvo naudojami aplinkoje, kuriai reikalinga didelė skaičiavimo galia, pavyzdžiui, AI ir HPC, tačiau turint mažiau talpos labai dideliems modeliams, palyginti su NVLINK 5.0 [2] [7].
Apskritai, „NVLINK 5.0“ yra reikšmingas šuolis į priekį, atsižvelgiant į pralaidumą, mastelio keitimą ir našumą, išdėstyti jį kaip kritinį komponentą būsimoms AI ir aukšto našumo skaičiavimams.
Citatos:
[1] https://hardwarenation.com/resources/blog/nvidia-nvlink-5-0-accelering-multi-gpu-communication/
[2] https://www.fibermall.com/blog/nvidia-nvlink.htm
[3] https://www.fibermall.com/blog/what-is-nvidia-nvlink.htm
[4] https://www.nvidia.com/en-us/data-center/nvlink/
[5] https://www.fibermall.com/blog/evolution-of-nvlink.htm
[6] https://www.nexgencloud.com/blog/performance-benchmarks/nvidia-blackwell-vs-nvidia-hopper-a-detailed-comparion
[7] https://en.wikipedia.org/wiki/nvlink
[8] https://www.naddod.com/blog/unveling-the-evolution-of-nvlink