Supernicul NVIDIA ConnectX-8 îmbunătățește semnificativ conectivitatea rețelei prin mai multe caracteristici și tehnologii cheie:
1. Rețeaua ultra-mare cu viteză: Supernicul ConnectX-8 acceptă atât rețelele Infiniband, cât și Ethernet la viteze de până la 800 de gigabits pe secundă (GB/s), dublând viteza predecesorului său și oferind conectivitate ultra-mare pentru a calcula clustere de calcul, de centre de date de mare performanță [2] [3].
2. Accelerarea rețelei și descărcarea de calcul: integrează capacitățile de accelerare a rețelei și de descărcare de calcul, care reduc latența rețelei și îmbunătățesc eficiența debitului. Acest lucru se realizează prin descărcarea protocolului la nivel de hardware și co-optimizarea GPU-NIC, oferind o latență ultra-scăzută și transmisie de rețea fără pierderi pentru scenarii de instruire AI, inferență și stocare distribuite [1] [2].
3. Asistență avansată a protocolului: Supernicul ConnectX-8 acceptă diverse protocoale care îmbunătățesc performanța rețelei:
-RDMA/ROCEV2: Permite transferul de date cu copie zero cu latență la fel de scăzută ca sub-microsecunde, îmbunătățind eficiența transferului de date în rețele [1].
-Tehnologia GPUDirect: Permite interacțiunea directă a datelor GPU-la-stocare/NIC, ocolind procesorul și reducând transferul de date cheltuielile de transfer de date [1].
- NVIDIA Sharpv3: Oferă accelerație hardware de comunicare agregată pentru operațiuni precum Allreduce și Broadcast, îmbunătățind eficiența instruirii AI [1].
- Descărcare hardware TLS/IPSEC: acceptă criptarea completă a traficului și decriptarea fără pierderi de performanță, asigurând transmiterea securizată a datelor [1].
4. Control avansat de rutare și congestie: Supernicul ConnectX-8 include capacități avansate de rutare și de control al congestiei bazate pe telemetrie. Aceste caracteristici ajută la obținerea celei mai înalte performanțe de rețea și a eficienței maxime a volumului de muncă AI, prin gestionarea dinamică a traficului de rețea și prin prevenirea congestiei [2] [5].
5. Conectivitate multi-gazdă și PCIE: Cardul acceptă conexiuni multi-gazdă și necesită conectivitate avansată PCIE, cum ar fi PCIE Gen6 X16 sau două legături Gen5 X16, pentru a gestiona capabilitățile sale mari de lățime de bandă. Această configurație este crucială pentru conectivitatea robustă în sisteme precum Platformele Grace Nvidia [3].
6. Descărcare hardware pentru rețele de suprapunere: Supernicul ConnectX-8 oferă motoare avansate de descărcare hardware NVGRE și VXLAN. Aceste motoare încapsulează și decapsulează protocoalele de suprapunere, reducând încărcarea procesorului și îmbunătățind scalabilitatea rețelei în medii virtualizate [5].
7. Eficiența energiei electrice și durabilitatea: cu o eficiență îmbunătățită a energiei electrice, Supernics ConnectX-8 susțin crearea de centre de date AI durabile. Acest lucru este esențial pentru operarea a sute de mii de GPU-uri, asigurând o infrastructură pregătită pentru viitor pentru avansările AI, reducând în același timp impactul asupra mediului [5].
În general, Supernicul NVIDIA ConnectX-8 este conceput pentru a supraîncărca sarcinile de lucru pentru calcularea AI HyperCale, prin furnizarea de conectivitate de rețea de mare viteză, eficientă și integrarea perfectă cu platformele de rețea NVIDIA de generație următoare.
Citări:
[1] https://www.fibermall.com/blog/connectx-8-supernic.htm
[2] https://docs.nvidia.com/networking/display/nvidia-conectx-8-supernic-user-manual.pdf
[3] https://www.techradar.com/pro/the-shape-of-things-tocome-nvidias-super-fast-800gbps-supernic-card-at-sc24-and-this-connect-x-8-aib-vagely-resembles-a-gpu
[4] https://docs.nvidia.com/networking/display/connectx8supernic/supported+Interfaces
[5] https://docs.nvidia.com/networking/display/connectx8supernic/introduction
[6] https://docs.nvidia.com/networking/display/connectx8supernic
[7] https://docs.nvidia.com/networking/display/connectx8supernic/specifications
[8] https://lenovopress.lenovo.com/LP2163-THINKSYSTEM-NVIDIA-CONNECTX-8-8180-800GBS-OSFP-PCIE-GEN6-X16-ADAPTER