NVLink piątej generacji, wprowadzony w 2024 r., Jest znaczącym postępem w stosunku do swoich poprzedników, szczególnie pod względem przepustowości i skalowalności. Oto kluczowe różnice między NVLink 5.0 i poprzednimi pokoleniami:
przepustowość i prędkość
- NVLink 5.0 oferuje znaczny wzrost przepustowości, zapewniając 1,8 TB/s całkowitej dwukierunkowej przepustowości na GPU. Osiąga się to za pomocą 18 linków NVLink, z których każde zdolne do 50 GB/s w każdym kierunku, łącznie 100 GB/s na link dwukierunkowo [1] [4].- NVLink 4.0, znalezione w GPU Hopper, obsługuje również 18 linków, ale przy niższej prędkości 50 GB/s na link, co daje całkowitą przepustowość 900 GB/s [7].
- NVLink 3.0, używany w GPU Ampere, takich jak A100, obsługuje do 12 linków z przepustowością 50 GB/s na link, osiągając łącznie 600 GB/s [7].
Skalowalność i architektura
- NVLink 5.0 jest przeznaczony do architektury Blackwell, która jest zoptymalizowana pod kątem systemów Multi-GPU. Umożliwia bezproblemową komunikację między setkami GPU, dzięki czemu jest idealny do obliczeń Exascale i dużych modeli AI [1] [4].- Poprzednie pokolenia, jednocześnie obsługując konfiguracje wielu GPU, nie oferowały tego samego poziomu skalowalności jak NVLink 5.0. Na przykład NVLink 4.0 zastosowano w GPU Hopper, które również obsługiwały konfiguracje GPU na dużą skalę, ale z mniejszą przepustowością [7].
Technology i wzajemne połączenie
- NVLINK 5.0 wykorzystuje zaawansowane sygnalizację par-pary PAM4, podobną do NVLink 4.0, ale z wyższymi szybkościami danych na pas [7].-Przełączniki NVLINK odgrywają kluczową rolę w NVLink 5.0, umożliwiając wydajną komunikację między GPU. Przełącznik NVLINK 5 oferuje 144 porty o niekształcającej pojemności przełączania 14,4 TB/s, znacznie zwiększając skalowalność na wielu serwerach [4].
aplikacje i wydajność
- NVLink 5.0 jest zoptymalizowany do aplikacji obliczeniowych o wysokiej wydajności, szczególnie tych obejmujących duże modele AI i przetwarzanie Exascale. Jego zwiększona przepustowość pozwala na szybszą wymianę danych między GPU, co ma kluczowe znaczenie dla złożonych AI i zadań głębokiego uczenia się [1] [4].- Poprzednie pokolenia koncentrowały się również na aplikacjach o wysokiej wydajności, ale były ograniczone ich niższą przepustowością. NVLink 3.0 i 4.0 były używane w środowiskach wymagających wysokiej mocy obliczeniowej, takich jak AI i HPC, ale z mniejszą pojemnością dla bardzo dużych modeli w porównaniu z NVLink 5.0 [2] [7].
Ogólnie rzecz biorąc, NVLINK 5.0 stanowi znaczący skok naprzód pod względem przepustowości, skalowalności i wydajności, pozycjonując ją jako kluczowy element przyszłych postępów w AI i obliczeniach o wysokiej wydajności.
Cytaty:
[1] https://hardwarenation.com/resources/blog/nvidia-nvlink-5-0-accelerating-multi-gpu-communication/
[2] https://www.fibermall.com/blog/nvidia-nvlink.htm
[3] https://www.fibermall.com/blog/what-is-nvidia-nvlink.htm
[4] https://www.nvidia.com/en-us/data-center/nvlink/
[5] https://www.fibermall.com/blog/evolution-of-nvlink.htm
[6] https://www.nexgencloud.com/blog/performance-benchmarks/nvidia-blackwell-vs-nvidia-hopper-a-detailed-comparison
[7] https://en.wikipedia.org/wiki/nvlink
[8] https://www.naddod.com/blog/unveiling-the-evolution-of-nvlink