NVLink piatej generácie, zavedený v roku 2024, predstavuje významný pokrok oproti svojim predchodcom, najmä pokiaľ ide o šírku pásma a škálovateľnosť. Tu sú kľúčové rozdiely medzi NVLink 5.0 a predchádzajúcimi generáciami:
Šírka pásma a rýchlosť
- NVLink 5.0 ponúka podstatné zvýšenie šírky pásma a poskytuje 1,8 TB/s celkovú obojsmernú šírku pásma na GPU. Dosahuje sa to prostredníctvom 18 nvlinkových odkazov, z ktorých každý je schopný 50 GB/s v každom smere, celkovo 100 GB/s na odkaz obojsmerne [1] [4].- NVLink 4.0, ktorý sa nachádza v Hopper GPU, podporuje tiež 18 odkazov, ale pri nižšej rýchlosti 50 GB/s na odkaz, čo vedie k celkovej šírke pásma 900 GB/s [7].
- NVLink 3.0, používaný v GPU Ampre, ako je A100, podporuje až 12 odkazov s šírkou pásma 50 GB/s na odkaz, čím sa dosahuje celkom 600 GB/s [7].
Škálovateľnosť a architektúra
- NVLink 5.0 je navrhnutý pre architektúru Blackwell, ktorá je optimalizovaná pre systémy viacerých GPU. Umožňuje bezproblémovú komunikáciu medzi stovkami GPU, vďaka čomu je ideálna pre exascale výpočty a veľké modely AI [1] [4].- Predchádzajúce generácie, pričom podporovali aj konfigurácie viacerých GPU, neponúkali rovnakú úroveň škálovateľnosti ako NVLink 5.0. Napríklad NVLink 4.0 sa použil v Hopper GPU, ktoré tiež podporovali rozsiahle konfigurácie GPU, ale s menšou šírkou pásma [7].
Technológia a prepojenie
- NVLink 5.0 využíva pokročilú signalizáciu diferenciálu PAM4 diferenciálu, podobnú NVLink 4.0, ale s vyššími dátovými rýchlosťami na jazdný pruh [7].-prepínače NVLink hrajú v NVLink 5.0 rozhodujúcu úlohu, čo umožňuje účinnú komunikáciu medzi GPU. Prepínač NVLink 5 ponúka 144 portov s neohrabávajúcou prepínajúcou kapacitou 14,4 TB/s, čo výrazne vylepšuje škálovateľnosť na viacerých serveroch [4].
Aplikácie a výkon
- NVLink 5.0 je optimalizovaný pre vysoko výkonné výpočtové aplikácie, najmä tie, ktoré zahŕňajú veľké modely AI a výpočty exascale. Jeho zvýšená šírka pásma umožňuje rýchlejšiu výmenu údajov medzi GPU, čo je rozhodujúce pre zložité úlohy AI a hlboké učenie [1] [4].- Predchádzajúce generácie sa tiež zameriavali na vysoko výkonné aplikácie, ale boli obmedzené nižšou šírkou pásma. NVLink 3.0 a 4.0 sa použili v prostrediach vyžadujúcich vysokú výpočtovú silu, ako je AI a HPC, ale s menšou kapacitou pre veľmi veľké modely v porovnaní s NVLink 5.0 [2] [7].
Celkovo predstavuje NVLink 5.0 významný skok vpred, pokiaľ ide o šírku pásma, škálovateľnosť a výkon, ktorý ho umiestni ako kritický komponent pre budúce pokroky v AI a vysokovýkonných výpočtoch.
Citácie:
[1] https://hardwarenation.com/resources/blog/nvidia-nvlink-5-0-acceleration-multi-gpu-communication/
[2] https://www.fiberall.com/blog/nvidia-nvlink.htm
[3] https://www.fiberall.com/blog/what-is-nvidia-nvlink.htm
[4] https://www.nvidia.com/en-us/data-center/nvlink/
[5] https://www.fiberall.com/blog/evolution-of-nvlink.htm
[6] https://www.nexgencloud.com/blog/performance-benchmarks/nvidia-blackwell-vidia-hopper--hopper-a-detailed-comparison
[7] https://en.wikipedia.org/wiki/nvlink
[8] https://www.naddod.com/blog/unveiling-the-evolution-of-nvlink