Implementering af NVLINK-C2C i en DGX-station ville kræve betydelige hardwareændringer, da NVLINK-C2C er specifikt designet til systemer som NVIDIA Grace Hopper SuperChip, der integrerer både NVIDIA GRACE CPU'er og NVIDIA HOPPER GPU'er. Her er de vigtigste hardwarekrav og overvejelser:
1. NVIDIA GRACE CPU og Hopper GPU-integration: NVLINK-C2C bruges til at forbinde Grace CPU og Hopper GPU inden for den samme superchip. DGX-stationen bruger imidlertid typisk NVIDIA A100 GPU'er, som ikke understøtter NVLINK-C2C. Du bliver nødt til at udskifte eller integrere disse komponenter med kompatibel hardware.
2. Højhastighedsinterconnect: NVLINK-C2C leverer op til 900 GB/s tovejsbåndbredde, hvilket er væsentligt højere end traditionelle PCIe-forbindelser. For at opnå dette skal systemet understøtte NVLINK-C2Cs højhastighedsforbindelsesteknologi, som ikke er hjemmehørende i DGX-stationens nuværende arkitektur.
3. hukommelseskohæren: NVLINK-C2C understøtter hardwarehukommelseskohæren, hvilket giver problemfri adgang til hukommelse på tværs af CPU og GPU uden eksplicit kopiering. Denne funktion kræver specifik hardwarestøtte, der ikke er til stede i standard DGX -stationer.
4. strøm og afkøling: Integrationen af høje ydeevne komponenter som dem i Grace Hopper SuperChip ville kræve forbedrede strømforsyning og kølesystemer for at håndtere det øgede strømforbrug og varmeproduktion.
5. Software Support: Implementering af NVLINK-C2C kræver også kompatibel software og drivere, der kan udnytte dens funktioner. Dette kan involvere tilpasning eller opdatering af operativsystemet og softwarestakken til understøttelse af den nye hardwarekonfiguration.
Sammenfattende ville implementering af NVLINK-C2C i en DGX-station nødvendiggøre en grundlæggende redesign af systemets arkitektur, herunder integration af kompatible CPU'er og GPU'er, højhastighedsforbindelser og passende effekt- og kølingsløsninger. Derudover ville softwaremodifikationer være påkrævet for fuldt ud at udnytte kapaciteterne i NVLINK-C2C.
Citater:
[1] https://developer.nvidia.com/blog/nvidia-grace-hopper-superchip-architecture-in-depth/
[2] https://www.nvidia.com/en-us/data-center/nvlink/
[3] https://nanoporetech.com/document/nvidia-dgx-station-a100-installation-and-brug
[4] https://chipsandcheese.com/p/grace-hopper-nvidias-halfway-apu
[5] https://en.wikipedia.org/wiki/nvlink
[6] https://docs.nvidia.com/dgx/dgx-station-user-guide/index.html
[7] https://www.nvidia.com/en-us/data-center/nvlink-c2c/
[8] https://blogs.nvidia.com/blog/what-is-nvidia-nvlink/