NVLink páté generace, představený v roce 2024, představuje významný pokrok nad svými předchůdci, zejména pokud jde o šířku pásma a škálovatelnost. Zde jsou klíčové rozdíly mezi NVLink 5.0 a předchozími generacemi:
Šířka pásma a rychlost
- NVLINK 5.0 nabízí podstatný nárůst šířky pásma a poskytuje 1,8 TB/s celkovou obousměrnou šířku pásma na GPU. Toho je dosaženo prostřednictvím 18 nvlink odkazů, z nichž každá je schopna 50 Gb/s v každém směru, celkem 100 Gb/s na spojení obousměrně [1] [4].- NVLINK 4.0, nalezený v GPU Hopper GPU, podporuje také 18 odkazů, ale při nižší rychlosti 50 GB/s na spojení, což vede k celkové šířce pásma 900 GB/S [7].
- NVLINK 3.0, používaný v amplere GPU, jako je A100, podporuje až 12 spojení s šířkou pásma 50 GB/s na spojení, což dosahuje celkem 600 GB/S [7].
Škálovatelnost a architektura
- NVLink 5.0 je navržen pro architekturu Blackwell, která je optimalizována pro systémy s více GPU. Umožňuje bezproblémovou komunikaci mezi stovkami GPU, což je ideální pro exascale výpočetní a velké modely AI [1] [4].- Předchozí generace, zatímco také podporují konfigurace multi-GPU, nenabízely stejnou úroveň škálovatelnosti jako NVLINK 5.0. Například NVLINK 4.0 byl použit v GPU Hopper GPU, který také podporoval rozsáhlé konfigurace GPU, ale s menší šířkou pásma [7].
Technologie a propojení
- NVLINK 5.0 využívá pokročilé signalizaci diferenciálního páru PAM4, podobně jako NVLINK 4.0, ale s vyššími rychlostmi dat na pruh [7].-Spínače NVLink hrají klíčovou roli v NVLINK 5.0, což umožňuje efektivní všestrannou komunikaci mezi GPU. Přepínač NVLINK 5 nabízí 144 portů s neblokovací spínací kapacitou 14,4 TB/s, což výrazně zvyšuje škálovatelnost na více serverech [4].
Aplikace a výkon
- NVLink 5.0 je optimalizován pro vysoce výkonné výpočetní aplikace, zejména ty, které zahrnují velké modely AI a exAscale computing. Jeho zvýšená šířka pásma umožňuje rychlejší výměnu dat mezi GPU, což je rozhodující pro komplexní úkoly AI a hlubokého učení [1] [4].- Předchozí generace byly také zaměřeny na vysoce výkonné aplikace, ale byly omezeny jejich nižší šířkou pásma. NVLINK 3.0 a 4.0 byly použity v prostředích vyžadujících vysoký výpočetní výkon, jako je AI a HPC, ale s menší kapacitou pro velmi velké modely ve srovnání s NVLINK 5.0 [2] [7].
Celkově představuje NVLINK 5.0 významný skok vpřed, pokud jde o šířku pásma, škálovatelnost a výkon, který jej umístí jako kritickou součást pro budoucí pokrok v AI a vysoce výkonný výpočet.
Citace:
[1] https://hardwarenation.com/resources/blog/nvidia-nvlink-5-0-accelerating-molti-gpu-omunication/
[2] https://www.fibermall.com/blog/nvidia-nvlink.htm
[3] https://www.fibermall.com/blog/what-is-nvidia-nvlink.htm
[4] https://www.nvidia.com/en-us/data-center/nvlink/
[5] https://www.fibermall.com/blog/evolution-of-nvlink.htm
[6] https://www.nexgencloud.com/blog/performance-bcharks/nvidia-lackwell-vs-nvidia-hopper-a-detailed-comprison
[7] https://en.wikipedia.org/wiki/nvlink
[8] https://www.naddod.com/blog/unveiling-the-evolution-of-nvlink