El NVIDIA ConnectX-8 Supernic mejora significativamente la conectividad de la red a través de varias características y tecnologías clave:
1. Redes de ultra alta velocidad: el ConnectX-8 Supernic admite las redes Infiniband y Ethernet a velocidades de hasta 800 gigabits por segundo (GB/s), duplicando la velocidad de su predecesor y proporciona una conectividad de velocidad ultra alta para calcular AI calculadores de grupos, centros de datos a gran escala y entornos de alto rendimiento de forma de alto rendimiento [1 1].
2. Aceleración de la red y descarga computacional: integra la aceleración de la red y las capacidades de descarga computacional, que reducen la latencia de la red y mejoran la eficiencia de rendimiento. Esto se logra a través de la descarga de protocolo a nivel de hardware y la co-optimización de la co-optimización de GPU-NIC, que ofrece una latencia ultra baja y transmisión de red sin pérdidas para capacitación en IA, inferencia y escenarios de almacenamiento distribuido [1] [2].
3. Soporte de protocolo avanzado: el ConnectX-8 Supernic admite varios protocolos que mejoran el rendimiento de la red:
-RDMA/ROCEV2: permite la transferencia de datos de copia cero con una latencia tan baja como submicrosegundos, mejorando la eficiencia de transferencia de datos en las redes [1].
-Tecnología GPUDIRECT: permite la interacción directa de datos de GPU a Storage/NIC, evitando la CPU y reduciendo la sobrecarga de transferencia de datos [1].
- NVIDIA SHARKV3: Proporciona aceleración de hardware de comunicación agregada para operaciones como Allreduce y Broadcast, mejorando la eficiencia de capacitación de IA [1].
- descarga de hardware TLS/IPSEC: admite cifrado de tráfico completo y descifrado sin pérdida de rendimiento, asegurando la transmisión segura de datos [1].
4. Control avanzado de enrutamiento y congestión: el ConnectX-8 Supernic incluye las capacidades de control de congestión de enrutamiento avanzado y de telemetría. Estas características ayudan a lograr el mayor rendimiento de la red y la eficiencia de carga de trabajo de IA máxima al administrar dinámicamente el tráfico de red y evitar la congestión [2] [5].
5. Conectividad multi-host y PCIe: la tarjeta admite conexiones multi-host y requiere conectividad PCIe avanzada, como PCIe Gen6 X16 o dos enlaces Gen5 X16, para manejar sus altas capacidades de ancho de banda. Esta configuración es crucial para una conectividad robusta en sistemas como las plataformas Grace de Nvidia [3].
6. descarga de hardware para redes superpuestas: el ConnectX-8 Supernic proporciona motores avanzados de descarga de hardware NVGRE y VXLAN. Estos motores encapsulan y des-encapsulan los protocolos de superposición, reduciendo la carga de CPU y mejorando la escalabilidad de la red en entornos virtualizados [5].
7. Eficiencia energética y sostenibilidad: con una eficiencia energética mejorada, ConnectX-8 Supernics apoya la creación de centros de datos de IA sostenibles. Esto es esencial para operar cientos de miles de GPU, asegurando una infraestructura preparada para el futuro para los avances de IA al tiempo que minimiza el impacto ambiental [5].
En general, el NVIDIA ConnectX-8 Supernic está diseñado para sobrealimentar las cargas de trabajo de computación de IA hiperscala al ofrecer una conectividad de red eficiente y de alta velocidad e integrarse perfectamente con las plataformas de redes NVIDIA de próxima generación.
Citas:
[1] https://www.fibermall.com/blog/connectx-8-supernic.htm
[2] https://docs.nvidia.com/networking/display/nvidia-connectx-8-supernic-user-manual.pdf
[3] https://www.techradar.com/pro/the-shape-of-things-to-come-nvidias-super-stast-800gbps-supernic-card-spied-at-sc24 y-this-connect-x-8-aiB-vagely-a-gpu
[4] https://docs.nvidia.com/networking/display/connectx8supernic/supported+Interfaces
[5] https://docs.nvidia.com/networking/display/connectx8supernic/introduction
[6] https://docs.nvidia.com/networking/display/connectx8supernic
[7] https://docs.nvidia.com/networking/display/connectx8supernic/specifications
[8] https://lenovopress.lenovo.com/lp2163-thinksystem-nvidia-connectx-8-8180-800gbs-osfp-pcie-gen6-x16-adaptador