NVLink thế hệ thứ năm, được giới thiệu vào năm 2024, đánh dấu một tiến bộ đáng kể so với người tiền nhiệm, đặc biệt là về băng thông và khả năng mở rộng. Dưới đây là sự khác biệt chính giữa NVLink 5.0 và các thế hệ trước:
Băng thông và tốc độ
- NVLink 5.0 cung cấp sự gia tăng đáng kể băng thông, cung cấp 1,8 TB/s tổng băng thông hai chiều trên mỗi GPU. Điều này đạt được thông qua 18 liên kết NVLink, mỗi liên kết có khả năng 50 GB/s theo mỗi hướng, tổng cộng 100 Gb/s mỗi liên kết hai chiều [1] [4].- NVLink 4.0, được tìm thấy trong GPU phễu, cũng hỗ trợ 18 liên kết nhưng ở tốc độ thấp hơn 50 GB/s mỗi liên kết, dẫn đến tổng băng thông là 900 GB/s [7].
- NVLink 3.0, được sử dụng trong GPU AMPER như A100, hỗ trợ tối đa 12 liên kết với băng thông 50 GB/s mỗi liên kết, đạt được tổng cộng 600 GB/s [7].
Khả năng mở rộng và kiến trúc
- NVLink 5.0 được thiết kế cho kiến trúc Blackwell, được tối ưu hóa cho các hệ thống đa GPU. Nó cho phép giao tiếp liền mạch giữa hàng trăm GPU, làm cho nó trở nên lý tưởng cho điện toán exascale và các mô hình AI lớn [1] [4].- Các thế hệ trước, trong khi cũng hỗ trợ các cấu hình đa GPU, không cung cấp cùng mức độ mở rộng như NVLink 5.0. Ví dụ, NVLink 4.0 đã được sử dụng trong GPU phễu, cũng hỗ trợ các cấu hình GPU quy mô lớn nhưng ít băng thông hơn [7].
công nghệ và kết nối
- NVLink 5.0 sử dụng tín hiệu cặp vi sai PAM4 tiên tiến, tương tự như NVLink 4.0, nhưng với tốc độ dữ liệu cao hơn trên mỗi làn [7].-Các chuyển đổi NVLink đóng một vai trò quan trọng trong NVLink 5.0, cho phép giao tiếp hoàn toàn hiệu quả giữa GPU. Công tắc NVLink 5 cung cấp 144 cổng với khả năng chuyển đổi không chặn là 14,4 TB/s, tăng cường đáng kể khả năng mở rộng trên nhiều máy chủ [4].
Ứng dụng và hiệu suất
- NVLink 5.0 được tối ưu hóa cho các ứng dụng điện toán hiệu suất cao, đặc biệt là các ứng dụng liên quan đến các mô hình AI lớn và điện toán exascale. Băng thông tăng của nó cho phép trao đổi dữ liệu nhanh hơn giữa GPU, điều này rất quan trọng đối với các nhiệm vụ AI phức tạp và học tập sâu [1] [4].- Các thế hệ trước cũng tập trung vào các ứng dụng hiệu suất cao nhưng bị giới hạn bởi băng thông thấp hơn. NVLink 3.0 và 4.0 được sử dụng trong môi trường đòi hỏi sức mạnh tính toán cao, chẳng hạn như AI và HPC, nhưng với công suất ít hơn cho các mô hình rất lớn so với NVLink 5.0 [2] [7].
Nhìn chung, NVLink 5.0 thể hiện một bước tiến đáng kể về mặt băng thông, khả năng mở rộng và hiệu suất, định vị nó như một thành phần quan trọng cho các tiến bộ trong tương lai trong AI và điện toán hiệu suất cao.
Trích dẫn:
[1] https:
[2] https://www.fibermall.com/blog/nvidia-nvlink.htm
[3] https://www.fibermall.com/blog/what-is-nvidia-nvlink.htm
[4] https://www.nvidia.com/en-us/data-center/nvlink/
[5] https://www.fibermall.com/blog/evolution-of-nvlink.htm
[6] https://www.nexgencloud.com/blog/performance-benchmarks/nvidia-blackwell-vs-nvidia-hopper-a-detailed-comparison
[7] https://en.wikipedia.org/wiki/nvlink
[8] https://www.naddod.com/blog/unveiling-the-evolution-of-nvlink