La implementación de NVLINK-C2C en una estación DGX requeriría modificaciones de hardware significativas, ya que NVLINK-C2C está específicamente diseñado para sistemas como el Superchip Nvidia Grace Hopper, que integra tanto NVIDIA Grace CPUS como GPU NVIDIA Hopper. Aquí están los requisitos y consideraciones clave de hardware:
1. Nvidia Grace CPU y Hopper GPU Integración: Nvlink-C2C se usa para conectar la CPU Grace y la GPU de la tolva dentro del mismo superchip. Sin embargo, la estación DGX usa típicamente las GPU A100 NVIDIA, que no admiten NVLink-C2C. Debería reemplazar o integrar estos componentes con hardware compatible.
2. Interconexión de alta velocidad: NVLink-C2C proporciona hasta 900 GB/s de ancho de banda bidireccional, que es significativamente más alto que las conexiones PCIe tradicionales. Para lograr esto, el sistema debe admitir la tecnología de interconexión de alta velocidad de NVLINK-C2C, que no es nativa de la arquitectura actual de la estación DGX.
3. Coherencia de memoria: NVLink-C2C admite la coherencia de memoria de hardware, lo que permite un acceso perfecto a la memoria a través de CPU y GPU sin copia explícita. Esta característica requiere un soporte de hardware específico que no esté presente en las estaciones DGX estándar.
4. Potencia y enfriamiento: la integración de componentes de alto rendimiento como los del Superchip Grace Hopper requeriría una entrega de energía y sistemas de enfriamiento mejorados para manejar el aumento del consumo de energía y la generación de calor.
5. Soporte de software: la implementación de NVLINK-C2C también requiere software y controladores compatibles que puedan aprovechar sus características. Esto puede implicar personalizar o actualizar el sistema operativo y la pila de software para admitir la nueva configuración de hardware.
En resumen, la implementación de NVLINK-C2C en una estación DGX requeriría un rediseño fundamental de la arquitectura del sistema, incluida la integración de CPU y GPU compatibles, interconexiones de alta velocidad y soluciones apropiadas de energía y enfriamiento. Además, se requerirían modificaciones de software para utilizar completamente las capacidades de NVLink-C2C.
Citas:
[1] https://developer.nvidia.com/blog/nvidia-grace-hopper-superchip-architecture-in-epth/
[2] https://www.nvidia.com/en-us/data-center/nvlink/
[3] https://nanoporetech.com/document/nvidia-dgx-station-a100-installation-and-use
[4] https://chipsandcheese.com/p/grace-hopper-nvidias-halfway-apu
[5] https://en.wikipedia.org/wiki/nvlink
[6] https://docs.nvidia.com/dgx/dgx-station-user-guide/index.html
[7] https://www.nvidia.com/en-us/data-center/nvlink-c2c/
[8] https://blogs.nvidia.com/blog/what-is-nvidia-nvlink/