2024'te tanıtılan beşinci nesil NVlink, öncekiler üzerinde, özellikle bant genişliği ve ölçeklenebilirlik açısından önemli bir ilerleme kaydediyor. İşte NVLink 5.0 ve önceki nesiller arasındaki temel farklar:
Bant genişliği ve hız
- NVLink 5.0, GPU başına toplam çift yönlü bant genişliği sağlayan bant genişliğinde önemli bir artış sunar. Bu, her biri her yönde 50 GB/s içerebilen 18 NVLink bağlantısı ile elde edilir, bağlantı başına toplam 100 GB/s'lik çift yönlü [1] [4].- Hopper GPU'larında bulunan NVLink 4.0, bağlantı başına 50 gb/s daha düşük bir hızda da destekler, bu da toplam 900 GB/s'lik bir bant genişliğine neden olur [7].
- A100 gibi amper GPU'larında kullanılan NVLink 3.0, bağlantı başına 50 GB/s'lik bir bant genişliğine sahip 12 bağlantıyı destekleyerek toplam 600 GB/s [7].
Ölçeklenebilirlik ve Mimari
- NVLink 5.0, çoklu GPU sistemleri için optimize edilen Blackwell mimarisi için tasarlanmıştır. Yüzlerce GPU arasında kesintisiz iletişim sağlar, bu da onu exascale bilgi işlem ve büyük AI modelleri için ideal hale getirir [1] [4].- Önceki nesiller, aynı zamanda çoklu GPU konfigürasyonlarını da desteklerken, NVLink 5.0 ile aynı ölçeklenebilirlik sunmadı. Örneğin, büyük ölçekli GPU konfigürasyonlarını da destekleyen ancak daha az bant genişliği olan Hopper GPU'larda NVLink 4.0 kullanıldı [7].
Teknoloji ve Bağlantı
- NVLink 5.0, NVLink 4.0'a benzer, ancak şerit başına daha yüksek veri oranları ile gelişmiş PAM4 diferansiyel çifti sinyalini kullanır [7].-NVLink anahtarları, NVLink 5.0'da önemli bir rol oynar ve GPU'lar arasında tümden tüm iletişim kurar. NVLink 5 anahtarı, 14.4 tb/s bloke etmeyen anahtarlama kapasitesine sahip 144 bağlantı noktası sunar ve çoklu sunucular arasında ölçeklenebilirliği önemli ölçüde artırır [4].
Uygulamalar ve Performans
- NVLink 5.0, özellikle büyük AI modelleri ve exascale bilgi işlem içeren yüksek performanslı bilgi işlem uygulamaları için optimize edilmiştir. Artan bant genişliği, karmaşık AI ve derin öğrenme görevleri için kritik olan GPU'lar arasında daha hızlı veri alışverişi sağlar [1] [4].- Önceki nesiller de yüksek performanslı uygulamalara odaklanmıştı, ancak daha düşük bant genişliği ile sınırlıydı. NVLink 3.0 ve 4.0, AI ve HPC gibi yüksek hesaplama gücü gerektiren ortamlarda kullanılmıştır, ancak NVLink 5.0 [2] [7] 'e kıyasla çok büyük modeller için daha az kapasiteye sahiptir.
Genel olarak, NVLink 5.0, bant genişliği, ölçeklenebilirlik ve performans açısından önemli bir sıçramayı temsil eder, bunu AI ve yüksek performanslı hesaplamada gelecekteki ilerlemeler için kritik bir bileşen olarak konumlandırır.
Alıntılar:
[1] https://hardwarenation.com/resources/blog/nvidia-nvlink-5-0-acelerating-multi-gpu-communication/
[2] https://www.fibermall.com/blog/nvidia-nvlink.htm
[3] https://www.fibermall.com/blog/what-is-nvidia-nvlink.htm
[4] https://www.nvidia.com/en-us/data-center/nvlink/
[5] https://www.fibermall.com/blog/evolution-of-nvlink.htm
[6] https://www.nexgencloud.com/blog/performance-nchmarks/nvidia-blackwell-vs-nvidia-hopper-a-detailed comparison
[7] https://en.wikipedia.org/wiki/nvlink
[8] https://www.naddod.com/blog/unveiling-the-evolution-ofnvlink