NVLink generasi kelima, diperkenalkan pada tahun 2024, menandai kemajuan yang signifikan atas pendahulunya, terutama dalam hal bandwidth dan skalabilitas. Berikut adalah perbedaan utama antara NVLink 5.0 dan generasi sebelumnya:
bandwidth dan kecepatan
- NVLink 5.0 menawarkan peningkatan substansial dalam bandwidth, menyediakan 1,8 TB/s dari total bandwidth dua arah per GPU. Ini dicapai melalui 18 tautan NVLink, masing -masing mampu 50 gb/s di setiap arah, total 100 Gb/s per tautan dua arah [1] [4].- NVLink 4.0, ditemukan di Hopper GPU, mendukung 18 tautan juga tetapi pada kecepatan yang lebih rendah 50 gb/s per tautan, menghasilkan total bandwidth 900 GB/s [7].
- NVLink 3.0, digunakan dalam Ampere GPU seperti A100, mendukung hingga 12 tautan dengan bandwidth 50 GB/s per tautan, mencapai total 600 GB/s [7].
skalabilitas dan arsitektur
- NVLink 5.0 dirancang untuk arsitektur Blackwell, yang dioptimalkan untuk sistem multi-GPU. Ini memungkinkan komunikasi yang mulus antara ratusan GPU, membuatnya ideal untuk komputasi exascale dan model AI besar [1] [4].- Generasi sebelumnya, sementara juga mendukung konfigurasi multi-GPU, tidak menawarkan tingkat skalabilitas yang sama dengan NVLink 5.0. Sebagai contoh, NVLink 4.0 digunakan dalam Hopper GPU, yang juga mendukung konfigurasi GPU skala besar tetapi dengan lebih sedikit bandwidth [7].
Teknologi dan interkonektivitas
- NVLink 5.0 menggunakan pensinyalan pasangan diferensial PAM4 canggih, mirip dengan NVLink 4.0, tetapi dengan laju data yang lebih tinggi per jalur [7].-Sakelar NVLink memainkan peran penting dalam NVLink 5.0, memungkinkan komunikasi semua-ke-semua yang efisien antara GPU. NVLink 5 Switch menawarkan 144 port dengan kapasitas switching non-blocking 14,4 TB/s, secara signifikan meningkatkan skalabilitas di beberapa server [4].
aplikasi dan kinerja
- NVLink 5.0 dioptimalkan untuk aplikasi komputasi berkinerja tinggi, terutama yang melibatkan model AI besar dan komputasi exascale. Bandwidth yang meningkat memungkinkan pertukaran data yang lebih cepat antara GPU, yang sangat penting untuk AI kompleks dan tugas pembelajaran mendalam [1] [4].- Generasi sebelumnya juga difokuskan pada aplikasi berkinerja tinggi tetapi dibatasi oleh bandwidth yang lebih rendah. NVLink 3.0 dan 4.0 digunakan di lingkungan yang membutuhkan daya komputasi yang tinggi, seperti AI dan HPC, tetapi dengan kapasitas yang lebih sedikit untuk model yang sangat besar dibandingkan dengan NVLink 5.0 [2] [7].
Secara keseluruhan, NVLink 5.0 merupakan lompatan ke depan yang signifikan dalam hal bandwidth, skalabilitas, dan kinerja, memposisikannya sebagai komponen penting untuk kemajuan masa depan dalam AI dan komputasi kinerja tinggi.
Kutipan:
[1] https://hardwarenation.com/resources/blog/nvidia-nvlink-5-0-accelerating-multi-gpu-communication/
[2] https://www.fibermall.com/blog/nvidia-nvlink.htm
[3] https://www.fibermall.com/blog/what-is-nvidia-nvlink.htm
[4] https://www.nvidia.com/en-us/data-center/nvlink/
[5] https://www.fibermall.com/blog/evolution-of-nvlink.htm
[6] https://www.nexgencloud.com/blog/performance-benchmarks/nvidia-blackwell-vs-nvidia-hopper-a-detailed-comparison
[7] https://en.wikipedia.org/wiki/nvlink
[8] https://www.naddod.com/blog/unveiling-the-evolution-of-nvlink
