„NVIDIA ConnectX-8 Supernic“ žymiai padidina tinklo ryšį per keletą pagrindinių funkcijų ir technologijų:
1. Ypač didelio greičio tinklas: „ConnectX-8“ supernic palaiko ir „Infiniband“, ir „Ethernet“ tinklus, esant 800 gigabitų per sekundę (GB/s) greitį, padvigubindamas jo pirmtako greitį ir užtikrinant ypač didelę greičio ryšį [3].
2. Tinklo pagreičio ir skaičiavimo iškrovimas: jis integruoja tinklo pagreičio ir skaičiavimo iškrovimo galimybes, kurios sumažina tinklo delsą ir padidina pralaidumo efektyvumą. Tai pasiekiama per aparatinės įrangos lygio protokolo iškrovimą ir GPU-NIC koopiravimą, siūlant ypač mažą latentinį ir be nuostolių tinklo perdavimą AI mokymui, išvadoms ir paskirstytam saugojimo scenarijams [1] [2].
3. Išplėstinis protokolo palaikymas: „ConnectX-8 Supernic“ palaiko įvairius protokolus, kurie pagerina tinklo našumą:
-RDMA/ROCEV2: Įgalinamas duomenų perdavimas nuliniame kopijoje, kai vėlavimas yra toks mažas kaip submikrosekundės, pagerindamas duomenų perdavimo efektyvumą visuose tinkluose [1].
-„GPUdirect“ technologija: leidžia tiesiogiai bendrauti su GPU ir NIC duomenų sąveika, apeiti CPU ir sumažinti duomenų perdavimo pridėtines išlaidas [1].
- „NVIDIA Sharpv3“: teikia apibendrintą komunikacijos aparatinės įrangos pagreitį tokioms operacijoms kaip „Allreduce“ ir „Broadcast“, padidindama AI mokymo efektyvumą [1].
- TLS/IPSEC aparatinės įrangos iškrovimas: palaiko viso srauto šifravimą ir iššifravimą neprarandant našumo, užtikrinant saugų duomenų perdavimą [1].
4. Pažangi maršruto parinkimo ir spūsčių valdymas: „ConnectX-8 Supernic“ apima pažangias maršruto parinkimo ir telemetrijos pagrįstas spūsčių valdymo galimybes. Šios savybės padeda pasiekti aukščiausią tinklo našumą ir didžiausią AI darbo krūvio efektyvumą, dinamiškai valdant tinklo srautą ir užkirsdamas kelią spūstims [2] [5].
5. Kelių šeimininkų ir PCIE ryšys: kortelė palaiko daugialypės programos ryšius ir reikalauja pažangaus PCIE ryšio, pavyzdžiui, „PCIE Gen6 X16“ ar dvi „Gen5 X16“ nuorodos, kad būtų galima valdyti savo didelę pralaidumo galimybes. Ši sąranka yra labai svarbi tvirtam ryšiui tokiose sistemose kaip „Nvidia“ malonės platformos [3].
6. Aparatūros perkėlimas į perdangų tinklus: „ConnectX-8 Supernic“ suteikia pažangių NVGRE ir VXLAN aparatūros iškrovimo variklius. Šie varikliai kapsuliuoja ir pašalina perdangos protokolus, sumažindami CPU apkrovą ir pagerina tinklo mastelį virtualizuotoje aplinkoje [5].
7. Energijos efektyvumas ir tvarumas: padidinus energijos efektyvumą, „ConnectX-8 Supernics“ palaiko tvarių AI duomenų centrų sukūrimą. Tai yra būtina norint valdyti šimtus tūkstančių GPU, užtikrinant, kad ateityje būtų pasirengusi AI pažangos infrastruktūra, tuo pačiu sumažinant poveikį aplinkai [5].
Apskritai, „NVIDIA ConnectX-8 Supernic“ yra skirtas perkrauti „Hyperscale AI“ kompiuterių darbo krūvius, teikiant greitą, efektyvų tinklo ryšį ir sklandžiai integruojant su naujos kartos NVIDIA tinklų platformomis.
Citatos:
[1] https://www.fibermall.com/blog/connectx-8-supernic.htm
[2] https://docs.nvidia.com/networking/display/nvidia-connectx-8-supernic-user-manual.pdf
[3] https://www.techradar.com/pro/the-shape-of-things-to-come-nvidias-super-fast-800gbps-suppernic-card-spied-at-c24-and-this-connect-x-8-ab-vaguely-card-a-gpu
[4] https://docs.nvidia.com/networking/display/connectx8supernic/supported+Interfaces
[5] https://docs.nvidia.com/networking/display/connectx8supernic/introduction
[6] https://docs.nvidia.com/networking/display/connectx8supernic
[7] https://docs.nvidia.com/networking/display/connectx8Supernic/Specifications
[8] https://lenovopress.lenovo.com/lp2163-ominSystem-nvidia-connectx-8-8180-800GBS-OSFP-PCIE-GEN6-X16-Adapter