NVLink 5.0 on NVIDIA: n viimeisin iteraatio sen erittäin korkean nopeuden toisiinsa liittyvän tekniikan iteraatio, joka on suunniteltu parantamaan suoraa viestintää järjestelmän useiden GPU: ien välillä. Tämä tekniikka on erityisen tärkeä GPU-intensiivisille työmäärille, kuten AI-koulutukselle ja korkean suorituskyvyn tietojenkäsittelylle. Näin NVLink 5.0 käsittelee tiedonsiirtoa useiden GPU: ien välillä:
arkkitehtuuri ja kaistanleveys
NVLink 5.0 on rakennettu Blackwell -arkkitehtuurille ja tarjoaa merkittävän kasvun kaistanleveyteen edeltäjiinsä verrattuna. Jokainen Blackwell GPU tukee jopa 18 NVLink -yhteyksiä, ja jokainen linkki tarjoaa kaksisuuntaisen kaistanleveyden 100 Gt/s. Tämä johtaa kokonaiskaistanleveyteen 1,8 TB/s/GPU, joka on kaksinkertainen edellisen sukupolven ja yli 14 -kertaisesti PCIe Gen5: n kaistanleveyteen [1] [2] [4].
Suora GPU-to-GPU-viestintä
NVLink mahdollistaa suoran viestinnän GPU: n välillä ilman CPU -välittäjää, vähentämällä viivettä ja maksimoi suorituskykyä. Tämä pisteeseen pisteeseen liittyvä yhteysarkkitehtuuri varmistaa, että jokaisella GPU: lla on omistettu linkki kaikkiin muihin GPU: iin, mikä mahdollistaa nopean tiedonsiirron ilman kaistanleveyden jakamista [7].
nvLink -kytkin skaalautuvuuteen
NVLink Switch -sirulla on kriittinen rooli NVLink -yhteyksien skaalaamisessa useiden GPU: ien yli, sekä palvelintelineiden sisällä että niiden välillä. Se helpottaa kaiken kaikkiaan GPU-viestintää täydellä NVLink-nopeudella, muuttaen tietokeskuksen tehokkaasti jättiläismäiseksi GPU: ksi. Tämä asennus tukee jopa 576 täysin kytkettyä GPU: ta estämättä laskennassa, mikä mahdollistaa suurten AI- ja HPC-sovellusten [1] [2] [4].
Kollektiivitoiminnot terävällä
Jokainen NVLink-kytkin sisältää moottorit NVIDIA: n skaalautuvalle hierarkkiselle aggregaatiolle ja pelkistysprotokollalle (Sharp), joka kiihdyttää verkon sisäisiä vähennystä ja monilähetysoperaatioita. Tämä on välttämätöntä nopeaan kollektiivisiin tehtäviin AI- ja HPC-ympäristöissä, mikä mahdollistaa suurten tietojoukkojen ja monimutkaisten mallien tehokkaan käsittelyn [2] [4].
sovellukset ja edut
NVLink 5.0 on suunniteltu tukemaan triljoonan parametrin AI-mallien ja excale-laskentasovellusten kehittämistä ja käyttöönottoa. Tarjoamalla nopea, tehokas viestintä GPU: n välillä, se mahdollistaa nopeamman tiedonvaihdon ja prosessoinnin, mikä on kriittistä monimutkaisille laskennallisille tehtäville. Tämä tekniikka on olennainen osa NVIDIA: n tietokeskuksen ratkaisuja, jotka tarjoavat ennennäkemättömän skaalautuvuuden ja suorituskyvyn AI- ja HPC -alustoille [1] [2] [4].
Viittaukset:
.
[2] https://www.amax.com/fifth-generation-nvidia-nvlink/
[3] https://www.fibermall.com/blog/nvidia-nvlink.htm
[4] https://www.nvidia.com/en-us/data-center/nvlink/
[5] https://www.fs.com/blog/fs-an-overview-of-nvidia-nvlink-2899.html
[6] https://massedcompute.com/faq-answers/?question=How+does+NVLink+handle+data+transfer+between+GPUs+in+a+system+with+multiple+GPUs%3F
[7] https://www.amax.com/unleashing-next-level-gpu-performance-with-nvidia-nvlink/
[8] https://forums.developer.nvidia.com/t/nvlink-support-for-connecting-4-gpus/253975