Implementace NVLINK-C2C ve stanici DGX by vyžadovala významné hardwarové úpravy, protože NVLINK-C2C je speciálně navrženo pro systémy, jako je Nvidia Grace Hopper Superchip, který integruje jak GPU NVIDIA GRACE, tak NVIDIA Hopper GPU. Zde jsou klíčové hardwarové požadavky a úvahy:
1.. NVIDIA GRACE CPU a Hopper GPU Integrace: Nvlink-C2C se používá k připojení GRACE CPU a GPU Hopper GPU ve stejném superchipu. Stanice DGX však obvykle používá GPU NVIDIA A100, které nepodporují NVLINK-C2C. Tyto komponenty byste museli vyměnit nebo integrovat kompatibilním hardwarem.
2. vysokorychlostní propojení: NVLINK-C2C poskytuje až 900 GB/s obousměrnou šířku pásma, což je výrazně vyšší než tradiční připojení PCIE. K dosažení tohoto cíle musí systém podporovat vysokorychlostní propojovací technologii NVLink-C2C, která není nativní pro současnou architekturu stanice DGX.
3.. Koherence paměti: NVLink-C2C podporuje koherenci hardwarové paměti, což umožňuje bezproblémový přístup k paměti napříč CPU a GPU bez explicitního kopírování. Tato funkce vyžaduje specifickou podporu hardwaru, která není přítomna na standardních stanicích DGX.
4. Výkon a chlazení: Integrace vysoce výkonných komponent, jako jsou ty v Grace Hopper Superchip, by vyžadovala zvýšené systémy dodávání a chlazení energie, aby se zvládly zvýšenou spotřebou energie a výrobu tepla.
5. Podpora softwaru: Implementace NVLINK-C2C také vyžaduje kompatibilní software a ovladače, které mohou využít jeho funkce. To může zahrnovat přizpůsobení nebo aktualizaci operačního systému a softwarového zásobníku tak, aby podporovala novou konfiguraci hardwaru.
Stručně řečeno, implementace NVLINK-C2C do stanice DGX by vyžadovala základní přepracování architektury systému, včetně integrace kompatibilních CPU a GPU, vysokorychlostních propojení a vhodného výkonu a chlazení. Kromě toho by byly vyžadovány softwarové úpravy k plnému využití schopností NVLINK-C2C.
Citace:
[1] https://developer.nvidia.com/blog/nvidia-race-hopper-superchip-architecture-in-depth/
[2] https://www.nvidia.com/en-us/data-center/nvlink/
[3] https://nanoporeTech.com/document/nvidia-Dgx-station-a100-instalation-and-use
[4] https://chipsandcheese.com/p/grace-hopper-nvidias-halfway-apu
[5] https://en.wikipedia.org/wiki/nvlink
[6] https://docs.nvidia.com/dgx/dgx-station-user-guide/index.html
[7] https://www.nvidia.com/en-us/data-center/nvlink-c2c/
[8] https://blogs.nvidia.com/blog/what-is-nvidia-nvlink/