5-osios kartos „NVLink“ vaidina lemiamą vaidmenį gerinant „Nvidia Blackwell GPU“ rezultatus, pateikiant greitą sujungimą, kuris žymiai padidina daugialypės GPU komunikaciją. Čia yra pagrindiniai būdai, kaip tai prisideda prie „Blackwell GPU“ atlikimo:
1. Patobulintas pralaidumas: 5 -osios kartos NVLINK siūlo bendrą 1,8 terabaitų per sekundę (TB/s) (TB/s) GPU, kuris yra dvigubai didesnis nei ankstesnės kartos pralaidumas ir daugiau nei 14 kartų didesnis nei PCIE gen5 [1] [4]. Šis padidėjęs pralaidumas leidžia greičiau keistis duomenimis tarp GPU, kuris yra būtinas didelio masto AI modeliams.
2. Mastelio keitimas: „NVLink“ suteikia galimybę vienam „Blackwell Tensor Core GPU“ palaikyti iki 18 jungčių esant 100 gigabaitų per sekundę, kiekviena žymiai pagerinant kelių GPU sistemų mastelį [1] [4]. Šis mastelio keitimas yra gyvybiškai svarbus norint tvarkyti sudėtingus AI modelius su trilijono ir kelių trilijonų parametrų.
3. Besiūlė ryšys: „NVLink Switch“ technologija palengvina visišką GPU ryšį visu „NVLink“ greičiu viename stovykloje ir tarp stelažų, veiksmingai paverčiant duomenų centrą milžinišku GPU [4]. Šis sklandus ryšys yra labai svarbus dideliam modelio paralelizmui ir palaiko iki 576 GPU vienoje NVLINK sąrankoje [7].
4. Sudėtingų AI modelių palaikymas: teikiant greitą ryšį, 5-osios kartos „NVLink“ palaiko didelių AI modelių, įskaitant tuos, kurie turi trilijoną ir kelių trilijonų parametrų, diegimą. Ši galimybė yra būtina siekiant patobulinti AI tyrimus ir pritaikymą [1] [9].
5. Integracija su „Blackwell“ architektūra: „Blackwell“ architektūra, kurioje yra 5 -osios kartos „NVLink“, skirta pakeisti AI našumą ir mastelį. Architektūra apima kitas pažangias funkcijas, tokias kaip 10 TB/s lusto ir chip jungtis GPU ir palaikymas konfidencialiam skaičiavimui, dar labiau padidindama jo galimybes [5] [9].
Apibendrinant galima pasakyti, kad 5-osios kartos „NVLink“ yra pagrindinis „Blackwell GPU“ našumo komponentas, įgalinantis greitesnį, labiau keičiamą ir efektyvesnį daugialypį GPU ryšį, kuris yra labai svarbus kuriant ir diegti sudėtingus AI modelius.
Citatos:
[1] https://www.nvidia.com/en-us/data-center/nvlink/
[2] https://www.hyderstack.cloud/blog/thought-leadership/everything-you-reed-to-known-outhe-nvidia-blackwell-gpus
[3] https://blog.spheron.network/nvidias-blackwell- what-you-ee-ee-know-know-outhe-next-next-generation-of-gpus
[4] https://www.amax.com/fifth-generation-nvidia-nvlink/
[5] https://www.nvidia.com/en-us/data-center/technologies/blackwell-architcture/
[6] https://www.anandtech.com/show/21310/nvidia-blackwell-architcture-and-b200b100-acelerators-besterning-the-bigger-with-smaller-data
[7] https://datacrunch.io/blog/nvidia-blackwell-b100-b200-gpu
[8] https://resources.nvidia.com/en-us-blackwell-architcture
[9] https://convergedigest.com/nvidia-blackwell-and-5th-gen-nvlink-advance- ai-to- trillion-parmeter-llms/