Het implementeren van NVLink-C2C in een DGX-station zou aanzienlijke hardwaremodificaties vereisen, omdat NVLink-C2C specifiek is ontworpen voor systemen zoals de Nvidia Grace Hopper Superchip, die zowel Nvidia Grace CPU's als Nvidia Hopper GPU's integreert. Hier zijn de belangrijkste hardwarevereisten en overwegingen:
1. Nvidia Grace CPU en Hopper GPU-integratie: NVLINK-C2C wordt gebruikt om de Grace CPU en Hopper GPU in dezelfde superchip te verbinden. Het DGX-station gebruikt echter meestal NVIDIA A100 GPU's, die NVLink-C2C niet ondersteunen. U moet deze componenten vervangen of integreren door compatibele hardware.
2. High-speed interconnect: NVLINK-C2C biedt tot 900 GB/s bidirectionele bandbreedte, die aanzienlijk hoger is dan traditionele PCIe-verbindingen. Om dit te bereiken, moet het systeem de high-speed interconnect-technologie van NVLink-C2C ondersteunen, die niet inheems is in de huidige architectuur van het DGX-station.
3. Geheugencoherentie: NVLINK-C2C ondersteunt hardware-geheugencoherentie, waardoor naadloze toegang tot geheugen via CPU en GPU zonder expliciet kopiëren mogelijk is. Deze functie vereist specifieke hardware -ondersteuning die niet aanwezig is in standaard DGX -stations.
4. Kracht en koeling: de integratie van high-performance componenten zoals die in de Grace Hopper Superchip zou verbeterde stroomafgifte en koelsystemen vereisen om het verhoogde stroomverbruik en het genereren van warmte aan te kunnen.
5. Softwareondersteuning: het implementeren van NVLink-C2C vereist ook compatibele software en stuurprogramma's die de functies kunnen benutten. Dit kan het aanpassen of bijwerken van het besturingssysteem en software -stack inhouden om de nieuwe hardwareconfiguratie te ondersteunen.
Samenvattend zou het implementeren van NVLink-C2C in een DGX-station een fundamenteel herontwerp van de architectuur van het systeem vereisen, inclusief de integratie van compatibele CPU's en GPU's, high-speed interconnects en passende stroom- en koeloplossingen. Bovendien zouden softwaremodificaties nodig zijn om de mogelijkheden van NVLink-C2C volledig te gebruiken.
Citaten:
[1] https://developer.nvidia.com/blog/nvidia-grace-hopper-superchip-architecture-in-depth/
[2] https://www.nvidia.com/en-us/data-center/nvlink/
[3] https://nanoporetech.com/document/nvidia-dgx-Station-a100-installation-and- use
[4] https://chipsandcheese.com/p/grace-hopper-nvidias-halfway-apu
[5] https://en.wikipedia.org/wiki/nvlink
[6] https://docs.nvidia.com/dgx/dgx-station-user-guide/index.html
[7] https://www.nvidia.com/en-us/data-center/nvlink-c2c/
[8] https://blogs.nvidia.com/blog/what-is-nvidia-nvlink/