Vuonna 2024 käyttöön otettu viidennen sukupolven NVLink merkitsee merkittävää etenemistä edeltäjiinsä, etenkin kaistanleveyden ja skaalautuvuuden suhteen. Tässä ovat keskeiset erot NVLink 5.0: n ja aiempien sukupolvien välillä:
Kaistanleveys ja nopeus
- NVLink 5.0 tarjoaa kaistanleveyden huomattavan kasvun, mikä tarjoaa 1,8 TB/s kokonaismäärästä kaksisuuntaista kaistanleveyttä GPU: ta kohden. Tämä saavutetaan 18 nvLink -linkillä, joista kukin pystyy 50 gb/s kumpaankin suuntaan, yhteensä 100 Gt/s linkkiä kohti kaksisuuntaisesti [1] [4].- NVLink 4.0, joka löytyy Hopper GPU: sta, tukee myös 18 linkkiä, mutta pienemmällä nopeudella 50 gb/s linkkiä kohti, mikä johtaa kokonaiskaistanleveyteen 900 Gt/s [7].
- NVLink 3.0, jota käytetään Ampere GPU: issa, kuten A100, tukee jopa 12 linkkiä kaistanleveydellä 50 GB/s linkkiä kohden, saavuttaen yhteensä 600 gb/s [7].
Skaalautuvuus ja arkkitehtuuri
- NVLink 5.0 on suunniteltu Blackwell-arkkitehtuurille, joka on optimoitu moni-GPU-järjestelmille. Se mahdollistaa saumattoman viestinnän satojen GPU: ien välillä, mikä tekee siitä ihanteellisen exascale -tietojenkäsittelyyn ja suuriin AI -malleihin [1] [4].- Aikaisemmat sukupolvet, vaikka ne tukevat myös multi-GPU-kokoonpanoja, eivät tarjonneet samaa skaalautuvuustasoa kuin NVLink 5.0. Esimerkiksi NVLink 4.0: ta käytettiin Hopper GPUS: ssä, joka tuki myös laajamittaisia GPU-kokoonpanoja, mutta vähemmän kaistanleveyttä [7].
Teknologia ja yhteenliitellisyys
- NVLink 5.0 käyttää edistynyttä PAM4-differentiaaliparin signalointia, samanlainen kuin NVLink 4.0, mutta korkeammilla tiedonsiirtoasteella kaistaa kohti [7].-NVLink-kytkimillä on ratkaiseva rooli NVLink 5.0: ssä, mikä mahdollistaa tehokkaan kaiken kaikkiaan GPU: n välillä. NVLink 5 -kytkin tarjoaa 144 porttia, joiden estokytkentäkapasiteetti on 14,4 TB/s, mikä parantaa merkittävästi skaalautuvuutta useiden palvelimien välillä [4].
Sovellukset ja suorituskyky
- NVLink 5.0 on optimoitu korkean suorituskyvyn laskentasovelluksiin, erityisesti niihin, joissa on suuria AI-malleja ja eksaccale-tietojenkäsittelyä. Sen lisääntynyt kaistanleveys mahdollistaa nopeamman tiedonvaihdon GPU: n välillä, mikä on kriittistä monimutkaisille AI- ja syvän oppimisen tehtäville [1] [4].- Aikaisemmat sukupolvet keskittyivät myös korkean suorituskyvyn sovelluksiin, mutta niiden alempi kaistanleveys rajoitti niitä. NVLink 3.0 ja 4.0 käytettiin ympäristöissä, jotka vaativat korkeaa laskennallista tehoa, kuten AI ja HPC, mutta erittäin suurten mallejen kapasiteetti on vähemmän verrattuna NVLink 5.0: iin [2] [7].
Kaiken kaikkiaan NVLink 5.0 edustaa merkittävää hyppyä kaistanleveyden, skaalautuvuuden ja suorituskyvyn suhteen, sijoittamalla se kriittiseksi komponentille AI: n ja korkean suorituskyvyn laskennan tuleville edistymisille.
Viittaukset:
.
[2] https://www.fibermall.com/blog/nvidia-nvlink.htm
[3] https://www.fibermall.com/blog/what-is-nvidia-nvlink.htm
[4] https://www.nvidia.com/en-us/data-center/nvlink/
[5] https://www.fibermall.com/blog/evolution-of-nvlink.htm
.
[7] https://en.wikipedia.org/wiki/nvlink
[8] https://www.naddod.com/blog/unveiling-the-evolution-of-nvlink