„NVLink Switch“ lustas vaidina lemiamą vaidmenį gerinant GPU ryšį sistemose, naudojant „Blackwell GPU“ architektūrą, teikiant greitą, tiesioginį sujungimo technologiją. Ši technologija yra skirta įveikti tradicinių PCIE jungiklių, kuriuos dažnai riboja mažesnis pralaidumas ir didesnis vėlavimas, apribojimus. Štai kaip „NVLink Switch“ lustas sustiprina GPU ryšį:
Tiesioginis GPU iki GPU ryšys
-Didelės spartos sujungimai: „NVLink“ jungiklio lustas įgalina tiesioginį ryšį su GPU-GPU, apeidamas PCIE jungiklių poreikį. Šis tiesioginis ryšys žymiai padidina duomenų perdavimo greitį ir sumažina delsą, leidžiančią GPU veikti efektyviau kartu [1] [2].- pralaidumas ir mastelio keitimas: „Blackwell“ architektūroje integruotas penktosios kartos „NVLink“ siūlo iki 1,8 terabaitų per sekundę pralaidumo pralaidumą. Tai yra daugiau nei 14 kartų didesnis už „PCIE Gen5“ pralaidumą, todėl jis yra idealus didelio masto AI ir HPC programoms [3] [7].
NVSWITCH funkcionalumas
-„Multi-GPU“ jungtys: „NVSwitch“ lustas veikia kaip greitaeigė sujungimo technologija, jungianti kelis GPU, naudodamas „NVLink“ sąsajas. Jis palaiko iki 64 NVLINK prievadų, palengvindamas visišką ryšį visame GPU serveryje arba per stelažus [4] [9].- Aštrus funkcionalumas: „NVSwitch“ lustas integruoja „NVIDIA“ keičiamą hierarchinį agregacijos ir redukcijos protokolą (aštriai), kuris padidina skaičiavimo efektyvumą, sudedant ir atnaujindama skaičiavimo rezultatus keliuose GPU vienetuose. Tai sumažina tinklo paketus ir optimizuoja duomenų kaupimą ir perkėlimą [1] [9].
Patobulintas AI ir HPC našumas
- AI ir HPC programos: „NVLink“ ir „NVSwitch Technologies“ derinys yra labai svarbus norint pasiekti optimalų AI darbo krūvio našumą ir didelio masto GPU diegimą. Tai palaiko tam skirto „NVLink“ tinklo sukūrimą GPU-iki GPU komunikacijai, nepriklausomai nuo IP eterneto tinklų [1] [4].- „Exascale Computing“: „NVLink Switch“ lustas yra būtinas „Exascale Computing“ ir „Mokyti kelių trilijonų parametrų AI“ modeliams. Tai įgalina greitą ir efektyvų ryšį visuose GPU serverių klasteryje, palengvindamas didelių duomenų rinkinių tiekimą į modelius ir greitą duomenų keitimą tarp GPU [3] [7].
Apibendrinant galima pasakyti, kad „NVLink Switch“ lustas pagerina GPU ryšį „Blackwell GPU“ architektūroje, teikdama greitajam, tiesioginiams GPU sujungimams, palaikant didelio masto GPU diegimą, optimizuodami duomenų kaupimąsi ir perduodant per aštrias funkcijas. Ši technologija yra svarbiausia siekiant pagreitinto našumo AI ir HPC programose.
Citatos:
[1] https://training.continuumlabs.ai/infrastructure/servers-and-chips/nvlink-switch
[2] https://www.fibermall.com/blog/gpu-pcle-nvlink-nswitch.htm
[3] https://www.amax.com/fifth-generation-nvidia-nvlink/
[4] https://www.atlantic.net/gpu-server-hosting/nvidia-nlink-how-it-works-use-cess-and-critical-best-praktices/
[5] https://siliconangle.com/2024/08/16/nvlink-nswitch-nvidias-secret-peapon-aiwars/
[6] https://www.amax.com/unleashing-next-level gpu-performance-with-nvidia-nvlink/
[7] https://www.nvidia.com/en-us/data-center/nvlink/
[8] https://blog.spheron.network/nvidias-blackwell- what-you-ee-ee-know-bour-outhe-next-generation-of-gpus
[9] https://www.fs.com/blog/fs-an-overview-of-nvidia-nvlink-2899.html