2024 년에 소개 된 5 세대 NVLINK는 특히 대역폭과 확장 성 측면에서 전임자들에 비해 상당한 발전을 기록하고 있습니다. NVLINK 5.0과 이전 세대의 주요 차이점은 다음과 같습니다.
대역폭 및 속도
-NVLINK 5.0은 대역폭이 상당히 증가하여 GPU 당 1.8TB/S의 총 양방향 대역폭을 제공합니다. 이것은 각 방향으로 50GB/s가 가능한 18 개의 NVlink 링크를 통해 달성되며,이 방향 당 총 100GB/s [1] [4].-Hopper GPU에서 발견 된 NVLINK 4.0은 18 개의 링크를 지원하지만 링크 당 50GB/s의 낮은 속도로 총 대역폭이 900GB/s입니다 [7].
-A100과 같은 Ampere GPU에 사용 된 NVLINK 3.0은 링크 당 50GB/s의 대역폭으로 최대 12 개의 링크를 지원하여 총 600GB/s를 달성합니다 [7].
확장 성 및 아키텍처
-NVLINK 5.0은 블랙웰 아키텍처 용으로 설계되었으며 다중 GPU 시스템에 최적화되었습니다. 수백 개의 GPU 간의 원활한 통신을 가능하게하여 Exascale 컴퓨팅 및 대형 AI 모델에 이상적입니다 [1] [4].- 이전 세대는 멀티 GPU 구성을 지원하지만 NVLINK 5.0과 동일한 수준의 확장 성을 제공하지 않았습니다. 예를 들어, NVLINK 4.0은 Hopper GPU에 사용되었으며 대규모 GPU 구성을 지원했지만 대역폭이 적습니다 [7].
기술 및 상호 연결성
-NVLINK 5.0은 NVLINK 4.0과 유사하지만 레인 당 데이터 속도가 높을 고급 PAM4 차동 쌍 신호 전달을 사용합니다 [7].-NVLink 스위치는 NVLINK 5.0에서 중요한 역할을하여 GPU 간의 효율적인 전부 통신을 가능하게합니다. NVLINK 5 스위치는 14.4TB/s의 비 차단 스위칭 용량을 갖춘 144 개의 포트를 제공하여 여러 서버에서 확장 성을 크게 향상시킵니다 [4].
응용 프로그램 및 성능
-NVLINK 5.0은 고성능 컴퓨팅 애플리케이션, 특히 대형 AI 모델 및 엑사 스케일 컴퓨팅과 관련된 응용 프로그램에 최적화되었습니다. 대역폭이 증가하면 GPU 간의 데이터 교환이 더 빠른 것이 가능하며, 이는 복잡한 AI와 딥 러닝 작업에 중요합니다 [1] [4].- 이전 세대는 또한 고성능 응용 프로그램에 중점을 두었지만 낮은 대역폭에 의해 제한되었습니다. NVLINK 3.0 및 4.0은 AI 및 HPC와 같은 높은 계산 능력이 필요한 환경에서 사용되었지만 NVLINK 5.0에 비해 매우 큰 모델의 용량은 적습니다 [2] [7].
전반적으로 NVLINK 5.0은 대역폭, 확장 성 및 성능 측면에서 상당한 도약을 나타내며 AI 및 고성능 컴퓨팅의 향후 발전을위한 중요한 구성 요소로 배치합니다.
인용 :
[1] https://hardwarenation.com/resources/blog/nvidia-nvlink-5-0-accelerating-multi-gpu-communication/
[2] https://www.fibermall.com/blog/nvidia-nvlink.htm
[3] https://www.fibermall.com/blog/what-is-nvidia-nvlink.htm
[4] https://www.nvidia.com/en-us/data-center/nvlink/
[5] https://www.fibermall.com/blog/evolution-of-nvlink.htm
[6] https://www.nexgencloud.com/blog/performance-benchmarks/nvidia-blackwell-vs-nvidia-hopper-a-detailed-comparison
[7] https://en.wikipedia.org/wiki/nvlink
[8] https://www.naddod.com/blog/unveiling-the-evolution-of-nvlink