Le supernic NVIDIA ConnectX-8 améliore considérablement la connectivité du réseau grâce à plusieurs fonctionnalités et technologies clés:
1. Réseautage à ultra-hautes vitesses: le ConnectX-8 Supernic prend en charge le réseautage Infiniband et Ethernet à des vitesses allant jusqu'à 800 gigabits par seconde (GB / s), doublant la vitesse de son prédécesseur et fournissant une connectivité à ultra-hautes hautes performances pour les ensembles de calculs AI, [1] [3] [3] [3] [3].
2. Accélération du réseau et déchargement de calcul: il intègre l'accélération du réseau et les capacités de déchargement de calcul, qui réduisent la latence du réseau et améliorent l'efficacité du débit. Ceci est réalisé grâce au déchargement du protocole de niveau matériel et à la co-optimisation GPU-NIC, offrant une latence ultra-low et une transmission de réseau sans perte pour la formation, l'inférence et les scénarios de stockage distribués [1] [2].
3. Prise en charge du protocole avancé: le ConnectX-8 Supernic prend en charge divers protocoles qui améliorent les performances du réseau:
- RDMA / ROCEV2: Permet le transfert de données à copie nulle avec la latence aussi faible que les sous-microsecondes, améliorant l'efficacité du transfert de données entre les réseaux [1].
- Technologie GPUDIRECT: permet une interaction directe des données GPU-Storage / NIC, en contournant le CPU et en réduisant les frais généraux de transfert de données [1].
- Nvidia Sharpv3: fournit une accélération de matériel de communication agrégé pour les opérations comme Allreduce et la diffusion, améliorant l'efficacité de la formation d'IA [1].
- TLS / IPSec matériel Déchargement: prend en charge le chiffrement complet du trafic et le déchiffrement sans perte de performances, assurant une transmission de données sécurisée [1].
4. Contrôle avancé de routage et de congestion: le supernic ConnectX-8 comprend des capacités avancées de routage et de contrôle de la congestion basées sur la télémétrie. Ces fonctionnalités aident à atteindre les performances du réseau les plus élevées et l'efficacité maximale de la charge de travail de l'IA en gérant dynamiquement le trafic du réseau et en empêchant la congestion [2] [5].
5. Connectivité multi-hôte et PCIe: la carte prend en charge les connexions multi-hôte et nécessite une connectivité PCIe avancée, telle que PCIe Gen6 x16 ou deux liens Gen5 X16, pour gérer ses capacités de bande passante élevées. Cette configuration est cruciale pour une connectivité robuste dans des systèmes comme les plates-formes Grace de Nvidia [3].
6. Déchargement matériel pour les réseaux de superposition: le ConnectX-8 Supernic fournit des moteurs de déchargement matériel avancés NVGRE et VXLAN. Ces moteurs encapsulent et dé-encapsulant les protocoles de superposition, réduisant la charge du processeur et améliorant l'évolutivité du réseau dans des environnements virtualisés [5].
7. Efficacité énergétique et durabilité: avec une efficacité énergétique améliorée, les superniques ConnectX-8 soutiennent la création de centres de données d'IA durables. Ceci est essentiel pour exploiter des centaines de milliers de GPU, garantissant une infrastructure prête pour l'avenir pour les progrès de l'IA tout en minimisant l'impact environnemental [5].
Dans l'ensemble, le NVIDIA ConnectX-8 Supernic est conçu pour suralimenter les charges de travail Hyperscale AI Computing en fournissant une connectivité réseau à grande vitesse et efficace et en intégrant parfaitement les plates-formes de réseautage NVIDIA de nouvelle génération.
Citations:
[1] https://www.fibermall.com/blog/connectx-8-supernic.htm
[2] https://docs.nvidia.com/networking/display/nvidia-connectx-8-supernic-user-manual.pdf
[3] https://www.techradar.com/pro/the-hape-of-things-to-come-nvidias-super-fast-800gbps-supernic-card-spied-at-sc24-and-this-connect-x-8-aib-vaguely-resembles-a-gpu
[4] https://docs.nvidia.com/networking/display/connectx8supernic/supported+Interfaces
[5] https://docs.nvidia.com/networking/display/connectx8supernic/introduction
[6] https://docs.nvidia.com/networking/display/connectx8supernic
[7] https://docs.nvidia.com/networking/display/connectx8supernic/specifications
[8] https://lenovopress.lenovo.com/lp2163-thinksystem-nvidia-connectx-8-8180-800gbs -osfp-pcie-gen6-x16-adaptère