Cea de-a cincea generație NVLink, introdusă în 2024, marchează un progres semnificativ asupra predecesorilor săi, în special în ceea ce privește lățimea de bandă și scalabilitatea. Iată diferențele cheie dintre NVLink 5.0 și generațiile anterioare:
Lățimea de bandă și viteza
- NVLink 5.0 oferă o creștere substanțială a lățimii de bandă, oferind 1,8 TB/s de lățime de bandă bidirecțională totală pe GPU. Acest lucru se realizează prin 18 legături NVLink, fiecare capabil de 50 GB/s în fiecare direcție, totalizând 100 GB/s pe legătură bidirecțional [1] [4].- NVLink 4.0, găsit în Hopper GPU, acceptă și 18 legături, dar cu o viteză mai mică de 50 GB/s pe legătură, rezultând o lățime de bandă totală de 900 GB/s [7].
- NVLink 3.0, utilizat în GPU -uri ampere precum A100, acceptă până la 12 legături cu o lățime de bandă de 50 GB/s pe legătură, obținând un total de 600 GB/s [7].
Scalabilitate și arhitectură
- NVLink 5.0 este proiectat pentru Blackwell Architecture, care este optimizat pentru sisteme multi-GPU. Permite o comunicare perfectă între sute de GPU, ceea ce o face ideală pentru calculul exascale și modelele mari de AI [1] [4].- Generațiile anterioare, susținând și configurații multi-GPU, nu au oferit același nivel de scalabilitate ca NVLink 5.0. De exemplu, NVLink 4.0 a fost utilizat în Hopper GPU, care a acceptat și configurații GPU pe scară largă, dar cu o lățime de bandă mai mică [7].
Tehnologie și interconectare
- NVLink 5.0 utilizează semnalizare avansată de pereche diferențială PAM4, similară cu NVLink 4.0, dar cu rate de date mai mari pe bandă [7].-Comutatoarele NVLink joacă un rol crucial în NVLink 5.0, permițând o comunicare eficientă la nivelul GPU. Comutatorul NVLink 5 oferă 144 de porturi cu o capacitate de comutare care nu blochează de 14,4 TB/s, îmbunătățind semnificativ scalabilitatea pe mai multe servere [4].
Aplicații și performanță
- NVLink 5.0 este optimizat pentru aplicații de calcul performante, în special cele care implică modele mari de AI și calcule exascale. Lățimea sa de bandă sporită permite schimbul de date mai rapid între GPU, ceea ce este esențial pentru AI complexă și sarcini de învățare profundă [1] [4].- Generațiile anterioare au fost, de asemenea, concentrate pe aplicații de înaltă performanță, dar au fost limitate de lățimea lor de bandă mai mică. NVLink 3.0 și 4.0 au fost utilizate în medii care necesită o putere de calcul ridicată, cum ar fi AI și HPC, dar cu o capacitate mai mică pentru modele foarte mari în comparație cu NVLink 5.0 [2] [7].
În general, NVLink 5.0 reprezintă un salt semnificativ înainte în ceea ce privește lățimea de bandă, scalabilitatea și performanța, poziționându-l ca o componentă critică pentru avansările viitoare ale AI și calcularea performanței de înaltă performanță.
Citări:
[1] https://hardwarenation.com/resources/blog/nvidia-nvlink-5-0-accelerating-multi-gpu-communication/
[2] https://www.fibermall.com/blog/nvidia-nvlink.htm
[3] https://www.fibermall.com/blog/what-is-nvidia-nvlink.htm
[4] https://www.nvidia.com/en-us/data-center/nvlink/
[5] https://www.fibermall.com/blog/evolution-of-nvlink.htm
[6] https://www.nexgencloud.com/blog/performance-genchmarks/nvidia-blackwell-vs-nvidia-hopper-adetailed-compaton
[7] https://en.wikipedia.org/wiki/nvlink
[8] https://www.naddod.com/blog/unveiling-the-evolution-of-nvlink