Az ötödik generációs NVlink, amelyet 2024-ben vezettek be, jelentős előrelépést jelent az elődeivel szemben, különös tekintettel a sávszélességre és a skálázhatóságra. Itt vannak a legfontosabb különbségek az NVLink 5.0 és az előző generációk között:
sávszélesség és sebesség
- Az NVLink 5.0 jelentősen megnöveli a sávszélességet, és 1,8 TB/s teljes kétirányú sávszélességet biztosít GPU -ban. Ezt 18 NVlink -összeköttetésen keresztül érik el, amelyek mindegyike 50 GB/s -ra képes mindkét irányban, összesen 100 GB/s -nként linkenként kétirányban [1] [4].- Az NVLink 4.0, a Hopper GPU -ban található, 18 linket is támogat, de alacsonyabb sebességgel 50 GB/s -nként, linkenként, ami a teljes sávszélességet 900 GB/s [7] eredményezi.
- Az NVLink 3.0, az amper GPU -kban, mint például az A100 -ban, akkor akár 12 linket is támogat, amelynek sávszélessége 50 GB/s -os linkenként, összesen 600 GB/s elérésével [7].
Méretezés és építészet
- Az NVLink 5.0 a Blackwell Architecture számára készült, amelyet a multi-GPU rendszerekhez optimalizáltak. Ez lehetővé teszi a zökkenőmentes kommunikációt több száz GPU között, így ideális az exascale számítástechnika és a nagy AI modellek számára [1] [4].- Az előző generációk, miközben támogatták a multi-GPU-konfigurációkat is, nem adtak ugyanolyan skálázhatósági szintet, mint az NVLink 5.0. Például az NVLink 4.0-t használták a Hopper GPU-ban, amely szintén támogatta a nagyszabású GPU-konfigurációkat, de kevesebb sávszélességgel [7].
Technológia és összekapcsolhatóság
- Az NVLink 5.0 az Advanced PAM4 differenciál-pár jelátvitelt használja, hasonlóan az NVLink 4.0-hoz, de a sávonkénti magasabb adatsebességgel [7].-Az NVlink kapcsolók döntő szerepet játszanak az NVLink 5.0-ban, lehetővé téve a GPU-k közötti hatékony kommunikációt. Az NVLink 5 kapcsoló 144 portot kínál, nem blokkoló kapcsolókapacitással 14,4 TB/s, ami szignifikánsan javítja a skálázhatóságot több szerverben [4].
Alkalmazások és teljesítmény
- Az NVLink 5.0 nagy teljesítményű számítástechnikai alkalmazásokra van optimalizálva, különösen a nagy AI modelleket és az Exascale számítástechnikát. Megnövekedett sávszélessége lehetővé teszi a GPU -k közötti gyorsabb adatcserét, amely kritikus jelentőségű a komplex AI és a mély tanulási feladatok szempontjából [1] [4].- A korábbi generációk a nagy teljesítményű alkalmazásokra is összpontosítottak, de az alacsonyabb sávszélességük korlátozta. Az NVLink 3.0 és 4.0 olyan környezetben használták, amely magas számítási teljesítményt igényel, például AI és HPC, de kevésbé kapacitást kapott a nagyon nagy modellekhez, mint az NVLink 5.0 [2] [7].
Összességében az NVLink 5.0 jelentős előrelépést jelent a sávszélesség, a méretezhetőség és a teljesítmény szempontjából, és kritikus elemként helyezkedik el az AI és a nagy teljesítményű számítástechnika jövőbeli fejlődéséhez.
Idézetek:
[1] https://hardwarenation.com/resources/blog/nvidia-nvlink-5-0-accelerating-multi-gpu-communication/
[2] https://www.fiibermall.com/blog/nvidia-nvlink.htm
[3] https://www.fiibermall.com/blog/what-is-nvidia-nvlink.htm
[4] https://www.nvidia.com/en-us/data-center/nvlink/
[5] https://www.fiibermall.com/blog/evolution-of-nvlink.htm
[6] https://www.nexgencloud.com/blog/performance-benchmarks
[7] https://en.wikipedia.org/wiki/nvlink
[8] https://www.naddod.com/blog/unveiling-the-evolution-of-nvlink