NVIDIA Connectx-8 Supernic znacznie zwiększa łączność sieciową poprzez kilka kluczowych funkcji i technologii:
1. Sieci o ultra-wysokiej prędkości: Superniczny ConnectX-8 obsługuje zarówno sieci Infiniband, jak i Ethernet z prędkością do 800 gigabitów na sekundę (GB/s), podwajając prędkość swojego poprzednika i zapewnianie ultra-wysokiej łączności dla AI Computing Contrants, dużych skupiskach danych o dużej skali. środowiska [1] [2] [3].
2. Przyspieszenie sieci i odciążenie obliczeniowe: integruje funkcje przyspieszenia sieci i obliczeniowego rozładunku, które zmniejszają opóźnienie sieci i zwiększają wydajność przepustowości. Osiąga się to poprzez rozładowanie protokołu na poziomie sprzętu i kooptymalizacja GPU-NIC, oferując bardzo niskie opóźnienie i bezstronne transmisję sieci do szkolenia AI, wnioskowanie i rozproszone scenariusze pamięci [1] [2].
3. Obsługa protokołu zaawansowanego: Supernica ConnectX-8 obsługuje różne protokoły, które poprawiają wydajność sieci:
-RDMA/ROCEV2: Włącza transfer danych zero-kopy z opóźnieniem tak niskim jak sub-mikrosekund, poprawia wydajność transferu danych w sieciach [1].
-Technologia GPUDIRECT: Umożliwia bezpośrednią interakcję danych GPU-STORAGE/NIC, omijając procesor i zmniejszając koszty przesyłania danych [1].
- NVIDIA Sharpv3: Zapewnia zagregowane przyspieszenie sprzętu komunikacyjnego dla operacji takich jak AllReduce i Broadcast, zwiększając efektywność szkolenia AI [1].
- Odciążenie sprzętu TLS/IPSEC: Obsługuje pełne szyfrowanie ruchu i deszyfrowanie bez utraty wydajności, zapewniając bezpieczną transmisję danych [1].
4. Zaawansowane kontrola routingu i zatorów: Supernica ConnectX-8 obejmuje zaawansowane funkcje kontroli przeciążenia opartego na routingu i telemetrii. Funkcje te pomagają osiągnąć najwyższą wydajność sieci i szczytową wydajność obciążenia AI poprzez dynamiczne zarządzanie ruchem sieciowym i zapobieganie zatorowi [2] [5].
5. Łączność wielostronna i PCIE: Karta obsługuje połączenia z wieloma hostami i wymaga zaawansowanej łączności PCIE, takich jak PCIE Gen6 X16 lub dwa łącza Gen5 X16, aby obsłużyć jego możliwości wysokiej przepustowości. Ta konfiguracja ma kluczowe znaczenie dla solidnej łączności w systemach takich jak platformy Grace Nvidia [3].
6. Odkładanie sprzętu dla sieci nakładek: SuperNIC ConnectX-8 zapewnia zaawansowane silniki rozładowywania sprzętu NVGRE i VXLAN. Silniki te zawierają protokoły nakładki i de-kapsułku, zmniejszając obciążenie procesora i poprawę skalowalności sieci w wirtualizowanych środowiskach [5].
7. Wydajność energetyczna i zrównoważony rozwój: Przy zwiększonej wydajności energetycznej supernikki ConnectX-8 wspierają tworzenie zrównoważonych centrów danych AI. Jest to niezbędne do obsługi setek tysięcy procesorów graficznych, zapewniając przyszłą infrastrukturę dla postępów AI przy jednoczesnym minimalizowaniu wpływu na środowisko [5].
Ogólnie rzecz biorąc, NVIDIA Connectx-8 SuperNIC jest zaprojektowany do wypłat obciążenia komputerowym AI Hyperscale AI poprzez dostarczanie szybkiej, wydajnej łączności sieciowej i bezproblemowo z platformami sieciowymi NVIDIA nowej generacji.
Cytaty:
[1] https://www.fibermall.com/blog/connectx-8-supernic.htm
[2] https://docs.nvidia.com/networking/display/nvidia-connectx-8-supernic-user-manual.pdf
[3] https://www.techradar.com/pro/the-shape-of-things-to-come-nvidias-super-fast-800gbps-supernic-card-spied-at-sc24-and-this-connect-x-8-aib-vaguely-resembles-a-gpu
[4] https://docs.nvidia.com/networking/display/connectx8supernic/supported+Interfaces
[5] https://docs.nvidia.com/networking/display/connectx8supernic/introdukcja
[6] https://docs.nvidia.com/networking/display/connectx8supernic
[7] https://docs.nvidia.com/networking/display/connectx8supernic/specifications
[8] https://lenovopress.lenovo.com/lp2163-thinkSystem-Nvidia-Connectx-8-8180-800GBS-OSFP-GIE-GEN6-X16-ADAPTER