Implementácia NVLink-C2C v stanici DGX by si vyžadovala významné hardvérové úpravy, pretože NVLink-C2C je špeciálne navrhnutý pre systémy ako NVIDIA Grace Hopper Superchip, ktorý integruje GPU NVIDIA Grace CPU a NVIDIA Hopper GPU. Tu sú kľúčové hardvérové požiadavky a úvahy:
1. Integrácia NVIDIA Grace CPU a Hopper GPU: NVLink-C2C sa používa na pripojenie Grace CPU a Hopper GPU v rámci toho istého superchipu. Stanica DGX však zvyčajne používa GPU NVIDIA A100, ktoré nepodporujú NVLink-C2C. Tieto komponenty by ste mali nahradiť alebo integrovať kompatibilným hardvérom.
2. Vysokorýchlostné prepojenie: NVLink-C2C poskytuje až 900 GB/s obojsmernej šírky pásma, ktorá je výrazne vyššia ako tradičné pripojenia PCIe. Na dosiahnutie tohto cieľa musí systém podporovať vysokorýchlostnú prepojenú technológiu NVLink-C2C, ktorá nie je pôvodná pre súčasnú architektúru stanice DGX.
3. Koherencia pamäte: NVLink-C2C podporuje koherenciu hardvérovej pamäte, čo umožňuje plynulý prístup k pamäti cez CPU a GPU bez explicitného kopírovania. Táto funkcia vyžaduje konkrétnu podporu hardvéru, ktorá nie je prítomná v štandardných staniciach DGX.
4. Výkon a chladenie: Integrácia vysokovýkonných komponentov, ako sú komponenty v Superchip Grace Hopper Superchip, by vyžadovalo zvýšené systémy dodávania energie a chladenia na zvládnutie zvýšenej spotreby energie a tvorby tepla.
5. Podpora softvéru: Implementácia NVLink-C2C tiež vyžaduje kompatibilný softvér a ovládače, ktoré môžu využiť jeho funkcie. Môže to zahŕňať prispôsobenie alebo aktualizáciu operačného systému a softvérového zásobníka na podporu nového konfigurácie hardvéru.
Stručne povedané, implementácia NVLink-C2C v stanici DGX by si vyžadovala základnú redizajn architektúry systému vrátane integrácie kompatibilných CPU a GPU, vysokorýchlostných prepojení a vhodných riešení výkonu a chladenia. Okrem toho by sa vyžadovalo úpravy softvéru na úplné využitie možností NVLink-C2C.
Citácie:
[1] https://developer.nvidia.com/blog/nvidia-grace-hopper-superchip-architecture-in-dpth/
[2] https://www.nvidia.com/en-us/data-center/nvlink/
[3] https://nanoporetech.com/document/nvidia-dgx-tation-a100-installation-and-use
[4] https://chipsandcheese.com/p/grace-hopper-nvidias-halfway-apu
[5] https://en.wikipedia.org/wiki/nvlink
[6] https://docs.nvidia.com/dgx/dgx-station-user-guide/index.html
[7] https://www.nvidia.com/en-us/data-center/nvlink-c2c/
[8] https://blogs.nvidia.com/blog/what-is-nvidia-nvlink/