NVLink 5.0 hrá kľúčovú úlohu pri vývoji výpočtov exascale výrazným zvýšením rýchlosti a účinnosti prenosu údajov medzi GPU v systéme. Takto to prispieva:
Vylepšená šírka pásma a rýchlosť
NVLink 5.0 ponúka pozoruhodnú obojsmernú šírku pásma 1,8 terabajtov za sekundu (TB/S), čo je dvojnásobok šírky pásma svojho predchodcu NVLink 4.0 a viac ako 14 -násobok PCIe Gen5 [1] [4]. Toto podstatné zvýšenie šírky pásma umožňuje rýchlejšiu výmenu údajov medzi GPU, čo je rozhodujúce pre riešenie masívnych súborov údajov typických v aplikáciách Exascale Computing.Škálovateľnosť a komunikácia s viacerými GPU
Táto technológia podporuje až 18 pripojení NVLink na GPU, z ktorých každé pracuje pri 100 GB/s, čo uľahčuje bezproblémovú komunikáciu medzi viacerými GPU [1] [4]. Táto škálovateľnosť je nevyhnutná pre exascale výpočty, kde zložité simulácie a rozsiahle modely AI vyžadujú koordinované úsilie mnohých GPU.Technológia NVLink Switch
Prepínač NVLink je kritickým komponentom, ktorý umožňuje komunikáciu všetkých GPU pri úplnej rýchlosti NVLink, a to tak v rámci stojanov na serveri aj medzi nimi [4]. Táto schopnosť umožňuje vytvorenie rozsiahlych klastí GPU, čím sa dá dátové centrum účinne premení na jedinú vysoko výkonnú výpočtovú entitu. Prepínač podporuje až 576 GPU v jednej doméne, čo výrazne rozširuje rozsah výpočtov, ktoré je možné vykonať [4].Podpora pre modely AI bilion-parameter
NVLink 5.0 je navrhnutý tak, aby podporoval vývoj a školenie modelov AI s parametrami biliónov a viacnásobných biliónov. Poskytovaním rýchlej a efektívnej komunikácie vo všetkých GPU v klastre servera sa zaoberá rastúcim dopytom po rýchlejších rozširujúcich sa prepojeniach potrebných pre tieto zložité modely [4] [9].Zníženie Dátových prekážok
Pri vysoko výkonných výpočtoch sú prekážky údajov významnou výzvou. NVLink 5.0 zmierňuje tieto prekážky tým, že zabezpečí, aby sa údaje mohli rýchlo a efektívne vymieňať medzi GPU. To skracuje čas potrebný na komplexné výpočty, čo umožňuje výskumným pracovníkom zamerať sa na rýchlejšie odvodenie poznatkov a výsledkov [3] [5].Záver
NVLink 5.0 je základná technológia pri hľadaní výpočtov exascale, ktorá ponúka bezprecedentnú šírku pásma a škálovateľnosť, ktoré sú nevyhnutné na riešenie masívnych výpočtových zaťažení a prenosov údajov požadovaných v tejto oblasti. Jeho integrácia s technológiou NVLink Switch Technology ďalej zosilňuje jej schopnosti, vďaka čomu je základným prvkom pri vývoji budúcich vysokovýkonných výpočtových platforiem.Citácie:
[1] https://hardwarenation.com/resources/blog/nvidia-nvlink-5-0-acceleration-multi-gpu-communication/
[2] https://en.wikichip.org/wiki/nvidia/nvlink
[3] https://www.atlantic.net/gpu-server-hosting/nvidia-nvlink-how-itworks-use-use-cases--case-critical-best-practices/
[4] https://www.amax.com/fifth-generation-nvidia-nvvlink/
[5] https://www.hpcwire.com/2024/03/25/nvlink-faster-interconnects-and-switches-to-help-relieve-lieve-data-bottlenecks/
[6] https://www.serversimply.com/blog/evolution-of-nvidia-data-center-gpus
[7] https://www.anandtech.com/show/21310/nvidia-blackwell-architecture-and-b200b100-Accelerators-anncounced-biggger-biggger-with-smaller-data
[8] https://www.fiberall.com/blog/nvidia-nvlink.htm
[9] https://www.nvidia.com/en-us/data-center/nvlink/
[10] https://hc34.hotchips.org/assets/program/conference/day2/network%20and%20Switches/nvswitch%20Hotchips%202022%20R5.pdf