NVLink 5.0 memainkan peran penting dalam memajukan komputasi exascale dengan secara signifikan meningkatkan kecepatan dan efisiensi transfer data antara GPU dalam suatu sistem. Begini cara berkontribusi:
Bandwidth dan Kecepatan yang Ditingkatkan
NVLink 5.0 menawarkan bandwidth dua arah yang luar biasa dari 1,8 terabyte per detik (TB/S), yang dua kali lipat bandwidth dari pendahulunya, NVLink 4.0, dan lebih dari 14 kali lipat dari PCIe Gen5 [1] [4]. Peningkatan substansial dalam bandwidth ini memungkinkan pertukaran data yang lebih cepat antara GPU, yang sangat penting untuk menangani set data besar yang khas dalam aplikasi komputasi Exascale.skalabilitas dan komunikasi multi-GPU
Teknologi ini mendukung hingga 18 koneksi NVLink per GPU, masing -masing beroperasi pada 100 GB/s, memfasilitasi komunikasi yang mulus di antara beberapa GPU [1] [4]. Skalabilitas ini sangat penting untuk komputasi exascale, di mana simulasi kompleks dan model AI skala besar membutuhkan upaya terkoordinasi dari banyak GPU.Teknologi
NVLink Switch
Sakelar NVLink adalah komponen penting yang memungkinkan komunikasi GPU semua-ke-semua dengan kecepatan NVLink penuh, baik di dalam maupun di antara rak server [4]. Kemampuan ini memungkinkan pembuatan kluster GPU skala besar, secara efektif mengubah pusat data menjadi entitas komputasi tunggal, kinerja tinggi. Sakelar mendukung hingga 576 GPU dalam satu domain, secara signifikan memperluas skala perhitungan yang dapat dilakukan [4].Dukungan untuk model AI triliun-parameter
NVLink 5.0 dirancang untuk mendukung pengembangan dan pelatihan model AI dengan triliun dan parameter multi-triliun. Dengan memberikan komunikasi yang cepat dan efisien di semua GPU dalam cluster server, ini membahas meningkatnya permintaan untuk interkoneksi skala-up yang lebih cepat yang diperlukan untuk model kompleks ini [4] [9].Mengurangi kemacetan data
Dalam komputasi kinerja tinggi, hambatan data adalah tantangan yang signifikan. NVLink 5.0 mengurangi hambatan ini dengan memastikan bahwa data dapat dimasukkan ke dalam model dengan cepat dan efisien dipertukarkan antara GPU. Ini mengurangi waktu yang diperlukan untuk perhitungan yang kompleks, memungkinkan para peneliti untuk fokus pada penurunan wawasan dan hasil lebih cepat [3] [5].Kesimpulan
NVLink 5.0 adalah teknologi landasan dalam mengejar komputasi Exascale, menawarkan bandwidth dan skalabilitas yang belum pernah terjadi sebelumnya yang penting untuk menangani beban komputasi besar -besaran dan transfer data yang diperlukan dalam bidang ini. Integrasi dengan teknologi NVLink Switch semakin memperkuat kemampuannya, menjadikannya elemen dasar dalam pengembangan platform komputasi kinerja tinggi di masa depan.Kutipan:
[1] https://hardwarenation.com/resources/blog/nvidia-nvlink-5-0-accelerating-multi-gpu-communication/
[2] https://en.wikichip.org/wiki/nvidia/nvlink
[3] https://www.atlantic.net/gpu-server-hostting/nvidia-nvlink-how-it-works-use-cases-and-critical-best-practices/
[4] https://www.amax.com/fifth-generation-nvidia-nvlink/
[5] https://www.hpcwire.com/2024/03/25/nvlink-faster-interconnects-and-switches-to-help-relieve-data-bottlenecks/
[6] https://www.serversimply.com/blog/evolution-of-nvidia-data-center-gpus
[7] https://www.anandtech.com/show/21310/nvidia-blackwell-architecture-and-b200b100-accelerators-annoulced-going-bigger-with-maller-data
[8] https://www.fibermall.com/blog/nvidia-nvlink.htm
[9] https://www.nvidia.com/en-us/data-center/nvlink/
[10] https://hc34.hotchips.org/assets/program/conference/day2/network%20and%20switches/nvswitch%20hotchips%202022%20r5.pdf