Az NVIDIA ConnectX-8 szuperhoma jelentősen javítja a hálózati kapcsolatot számos kulcsfontosságú funkción és technológián keresztül:
1. ultra-nagysebességű hálózatépítés: A ConnectX-8 szuperhivatal támogatja mind az Infiniband, mind az Ethernet hálózatépítést, akár 800 gigabit/másodpercig (GB/s) sebességgel, megduplázva elődjének sebességét és ultra-nagysebességű csatlakozást biztosítva az AI számítógépes klaszterekhez, nagyméretű adatközpontokhoz és a nagy performanciaközpontokhoz [1] [2] [2] [2].
2. Hálózati gyorsulás és számítási kirakodás: Integrálja a hálózati gyorsulást és a számítási kirakodási képességeket, amelyek csökkentik a hálózati késleltetést és javítják az áteresztési hatékonyságot. Ezt hardverszintű protokoll-kirakodás és GPU-NIC-optimalizálás révén érik el, ultra alacsony késleltetéssel és veszteségmentes hálózati átvitelt kínálva az AI edzéshez, következtetéshez és az elosztott tárolási forgatókönyvekhez [1] [2].
3. fejlett protokoll támogatás: A ConnectX-8 Supernic támogatja a különféle protokollokat, amelyek javítják a hálózati teljesítményt:
-RDMA/ROCEV2: Engedélyezi a nulla másolatú adatátvitelt, olyan alacsony késéssel, mint a szubmikrosekundumok, javítva az adatátviteli hatékonyságot a hálózatokon keresztül [1].
-GPUDIRECT technológia: lehetővé teszi a közvetlen GPU-to-tároló/NIC adat-interakciót, megkerülve a CPU-t és csökkentve az adatátviteli költségeket [1].
- NVIDIA SHARDV3: Összesített kommunikációs hardver gyorsítást biztosít az olyan műveletekhez, mint az Allreduce és a Broadcast, javítva az AI edzés hatékonyságát [1].
- TLS/IPSEC hardver kirakodás: Támogatja a teljes forgalmi titkosítást és a dekódolást teljesítményvesztés nélkül, biztosítva a biztonságos adatátvitelt [1].
4. fejlett útválasztási és torlódási vezérlés: A ConnectX-8 Supernic magában foglalja a fejlett útválasztási és telemetriai alapú torlódásvezérlő képességeket. Ezek a szolgáltatások elősegítik a legmagasabb hálózati teljesítmény és a csúcs AI munkaterhelés hatékonyságának elérését azáltal, hogy dinamikusan kezelik a hálózati forgalmat és megakadályozzák a torlódást [2] [5].
5. Multi-házigazdák és PCIe Connectivity: A kártya támogatja a multi-host kapcsolatokat, és fejlett PCIe-kapcsolatot igényel, például a PCIe Gen6 X16 vagy két Gen5 X16 link, hogy kezelje nagy sávszélességű képességeit. Ez a beállítás elengedhetetlen a robusztus kapcsolathoz olyan rendszerekben, mint az NVIDIA GRACE platformjai [3].
6. Hardver kirakodás az overlay hálózatokhoz: A ConnectX-8 Supernic fejlett NVGRE és VXLAN hardver-kirakodó motorokat biztosít. Ezek a motorok beágyazódnak és kifogásolják az overlay protokollokat, csökkentve a CPU terhelését és javítva a hálózati skálázhatóságot virtualizált környezetben [5].
7. Az energiahatékonyság és a fenntarthatóság: A fokozott energiahatékonysággal a ConnectX-8 szupernikusok támogatják a fenntartható AI adatközpontok létrehozását. Ez elengedhetetlen a több százezer GPU üzemeltetéséhez, biztosítva a jövőbeni készenléti infrastruktúrát az AI fejlődéshez, miközben minimalizálja a környezeti hatásokat [5].
Összességében az NVIDIA ConnectX-8 Supernic-t úgy tervezték, hogy a Hyperscale AI számítási munkaterheléseket feltöltse a nagysebességű, hatékony hálózati csatlakozás biztosításával és a következő generációs NVIDIA hálózati platformokkal való zökkenőmentes integrálással.
Idézetek:
[1] https://www.fiibermall.com/blog/connectx-8-supernic.htm
[2] https://docs.nvidia.com/networking/display/nvidia-connectx-8-supernic-user-manual.pdf
[3] https://www.techradar.com/pro/the-shape-of-things-to-come-nvidias-super-fast-800gbps-supernic-card-spied-at-sc24-and-this-connect-x-aib-vaguely-resembles-a-gpu-a-gpu
[4] https://docs.nvidia.com/networking/display/connectx8supernic/supported+Interfaces
[5] https://docs.nvidia.com/networking/display/connectx8supernic/introduction
[6] https://docs.nvidia.com/networking/display/connectx8supernic
[7] https://docs.nvidia.com/networking/display/connectx8supernic/specifikációk
[8] https://lenovopress.lenovo.com/lp2163-thinksystem-nvidia-connectx-8-8180-800GBS-OSFP-PCIE-GEN6-X16-Adapter