NVLink 5.0 đóng vai trò quan trọng trong việc thúc đẩy tính toán exascale bằng cách tăng cường đáng kể tốc độ và hiệu quả truyền dữ liệu giữa GPU trong một hệ thống. Đây là cách nó đóng góp:
Băng thông và tốc độ tăng cường
NVLink 5.0 cung cấp băng thông hai chiều đáng chú ý là 1,8 terabyte mỗi giây (TB/s), gấp đôi băng thông của người tiền nhiệm, NVLink 4.0 và hơn 14 lần so với PCIe Gen5 [1] [4]. Sự gia tăng đáng kể về băng thông này cho phép trao đổi dữ liệu nhanh hơn giữa GPU, điều này rất quan trọng để xử lý các bộ dữ liệu lớn điển hình trong các ứng dụng điện toán exascale.Khả năng mở rộng và giao tiếp đa GPU
Công nghệ hỗ trợ tối đa 18 kết nối NVLink trên mỗi GPU, mỗi kết nối hoạt động ở mức 100 GB/s, tạo điều kiện giao tiếp liền mạch giữa nhiều GPU [1] [4]. Khả năng mở rộng này rất cần thiết cho điện toán exascale, trong đó các mô phỏng phức tạp và các mô hình AI quy mô lớn đòi hỏi nỗ lực phối hợp của nhiều GPU.Công nghệ chuyển đổi NVLink
Công tắc NVLink là một thành phần quan trọng cho phép giao tiếp GPU hoàn toàn đến tất cả các tốc độ NVLink đầy đủ, cả trong và giữa các giá đỡ máy chủ [4]. Khả năng này cho phép tạo ra các cụm GPU quy mô lớn, biến một trung tâm dữ liệu thành một thực thể điện toán hiệu suất cao duy nhất. Công tắc hỗ trợ tối đa 576 GPU trong một miền duy nhất, mở rộng đáng kể quy mô tính toán có thể được thực hiện [4].Hỗ trợ cho các mô hình AI nghìn tỷ tham số
NVLink 5.0 được thiết kế để hỗ trợ phát triển và đào tạo các mô hình AI với các thông số nghìn tỷ và nhiều nghìn tỷ. Bằng cách cung cấp giao tiếp nhanh chóng và hiệu quả trên tất cả các GPU trong cụm máy chủ, nó giải quyết nhu cầu ngày càng tăng về các kết nối mở rộng nhanh hơn cần thiết cho các mô hình phức tạp này [4] [9].Giảm tắc nghẽn dữ liệu
Trong điện toán hiệu suất cao, tắc nghẽn dữ liệu là một thách thức đáng kể. NVLink 5.0 làm giảm bớt các tắc nghẽn này bằng cách đảm bảo rằng dữ liệu có thể được đưa vào các mô hình nhanh chóng và được trao đổi hiệu quả giữa GPU. Điều này làm giảm thời gian cần thiết cho các tính toán phức tạp, cho phép các nhà nghiên cứu tập trung vào việc đưa ra những hiểu biết và kết quả nhanh hơn [3] [5].Phần kết luận
NVLink 5.0 là một công nghệ nền tảng trong việc theo đuổi điện toán exascale, cung cấp băng thông chưa từng có và khả năng mở rộng rất cần thiết để xử lý các tải trọng tính toán lớn và chuyển dữ liệu cần thiết trong lĩnh vực này. Sự tích hợp của nó với công nghệ NVLink Switch càng khuếch đại các khả năng của nó, làm cho nó trở thành một yếu tố nền tảng trong sự phát triển của các nền tảng điện toán hiệu suất cao trong tương lai.Trích dẫn:
[1] https:
[2] https://en.wikichip.org/wiki/nvidia/nvlink
.
.
.
[6] https://www.serversimply.com/blog/evolution-of-nvidia-data-center-gpus
[7] https://www.anandtech.com/show/21310/nvidia-blackwell-architecture-and-b200b100-accelerators-announced-going-bigger-with-smaller-data
[8] https://www.fibermall.com/blog/nvidia-nvlink.htm
[9] https://www.nvidia.com/en-us/data-center/nvlink/
[10] https://hc34.hotchips.org/assets/program/conference/day2/Network%20and%20Switches/NVSwitch%20HotChips%202022%20r5.pdf