Il supernic Nvidia ConnectX-8 migliora significativamente la connettività di rete attraverso diverse funzionalità e tecnologie chiave:
1.
2. Accelerazione della rete e scarico computazionale: integra le capacità di accelerazione e scarico computazionale di rete, che riducono la latenza di rete e migliorano l'efficienza di throughput. Ciò si ottiene attraverso lo scarico del protocollo a livello di hardware e la cooptimizzazione GPU-NIC, offrendo latenza ultra-bassa e trasmissione di rete senza perdita di perdita per la formazione AI, l'inferenza e gli scenari di archiviazione distribuiti [1] [2].
3. Supporto per protocolli avanzati: il supernic ConnectX-8 supporta vari protocolli che migliorano le prestazioni della rete:
-RDMA/ROCEV2: consente il trasferimento di dati a copia zero con latenza a partire da sotto-microsecondi, migliorando l'efficienza del trasferimento dei dati tra le reti [1].
-Tecnologia GPudiRect: consente l'interazione diretta dei dati GPU-a-stoccaggio/NIC, bypassing della CPU e riducendo il sovraccarico di trasferimento dei dati [1].
- NVIDIA Sharpv3: fornisce un'accelerazione hardware di comunicazione aggregata per operazioni come Allreduce e trasmissione, migliorando l'efficienza di addestramento dell'IA [1].
- Offload hardware TLS/IPSEC: supporta la crittografia e la decrittografia del traffico completo senza perdita di prestazioni, garantendo la trasmissione di dati sicura [1].
4. Controllo avanzato di routing e congestione: il supernico ConnectX-8 include capacità di controllo della congestione basate su routing e telemetria. Queste funzionalità aiutano a raggiungere le prestazioni di rete più elevate e l'efficienza del carico di lavoro dell'IA managendo dinamicamente il traffico di rete e prevenendo la congestione [2] [5].
5. Connettività multi-host e PCIe: la scheda supporta connessioni multi-host e richiede una connettività PCIe avanzata, come i collegamenti PCIE GEN6 X16 o due Gen5 X16, per gestire le sue elevate capacità di larghezza di banda. Questa configurazione è cruciale per una solida connettività in sistemi come le piattaforme Grace di Nvidia [3].
6. Offload hardware per reti di overlay: il supernic ConnectX-8 fornisce motori di scarico hardware NVGRE e VXLAN avanzati. Questi motori incapsulano e de-incapsulano i protocolli di sovrapposizione, riducendo il carico della CPU e migliorando la scalabilità della rete in ambienti virtualizzati [5].
7. Efficienza energetica e sostenibilità: con una maggiore efficienza energetica, i supernici ConnectX-8 supportano la creazione di data center di intelligenza artificiale sostenibile. Ciò è essenziale per gestire centinaia di migliaia di GPU, garantendo un'infrastruttura pronta per il futuro per i progressi dell'intelligenza artificiale riducendo al minimo l'impatto ambientale [5].
Nel complesso, il supernic NVIDIA ConnectX-8 è progettato per sovraccaricare i carichi di lavoro di Iperscale AI Computing fornendo una connettività di rete ad alta velocità ed efficiente e integrando perfettamente con piattaforme di reti NVIDIA di prossima generazione.
Citazioni:
[1] https://www.fibermall.com/blog/connectx-8-supernic.htm
[2] https://docs.nvidia.com/networking/display/nvidia-connectx-8-supernic-user-manual.pdf
[3] https://www.techradar.com/pro/the-shape-of-tings-to-come-nvidias-super-fast-800gbps-supernic-card-spied-at-sc24-and- this-confnect-x-8-aib-vaguely-resembles-a-gpu
[4] https://docs.nvidia.com/networking/display/connectx8supernic/supported+interfaces
[5] https://docs.nvidia.com/networking/display/connectx8supernic/introduction
[6] https://docs.nvidia.com/networking/display/connectx8supernic
[7] https://docs.nvidia.com/networking/display/connectx8supernic/specifications
[8] https://lenovopress.lenovo.com/LP2163-Thinksystem-Nvidia-connectx-8-8180-800GBS-OSFP-PCIE-GEN6-X16-Adapter