NVLink-C2C'nin bir DGX istasyonunda uygulanması, NVLink-C2C'nin hem NVIDIA Grace CPU'ları hem de Nvidia Hopper GPU'larını entegre eden NVIDIA Grace Hopper Superchip gibi sistemler için özel olarak tasarlandığından önemli donanım modifikasyonları gerektirecektir. İşte temel donanım gereksinimleri ve hususları:
1. NVIDIA GRACE CPU ve Hopper GPU Entegrasyonu: NVLink-C2C, Grace CPU ve Hopper GPU'yu aynı süperchip içine bağlamak için kullanılır. Bununla birlikte, DGX istasyonu tipik olarak NVLink-C2C'yi desteklemeyen NVIDIA A100 GPU'ları kullanır. Bu bileşenleri uyumlu donanımla değiştirmeniz veya entegre etmeniz gerekir.
2. Yüksek hızlı ara bağlantı: NVLink-C2C, geleneksel PCIe bağlantılarından önemli ölçüde daha yüksek olan 900 GB/s'ye kadar çift yönlü bant genişliği sağlar. Bunu başarmak için, sistem NVLink-C2C'nin DGX istasyonunun mevcut mimarisine özgü olmayan yüksek hızlı ara bağlantı teknolojisini desteklemelidir.
3. Bellek Tutarlılığı: NVLink-C2C, donanım belleği tutarlılığını destekler ve açık kopyalamadan CPU ve GPU genelinde belleğe sorunsuz erişim sağlar. Bu özellik, standart DGX istasyonlarında bulunmayan belirli donanım desteği gerektirir.
4. Güç ve soğutma: Grace Hopper Superchip'teki gibi yüksek performanslı bileşenlerin entegrasyonu, artan güç tüketimini ve ısı üretimini işlemek için gelişmiş güç dağıtım ve soğutma sistemleri gerektirecektir.
5. Yazılım Desteği: NVLink-C2C'nin uygulanması, özelliklerinden yararlanabilecek uyumlu yazılım ve sürücüler de gerektirir. Bu, yeni donanım yapılandırmasını desteklemek için işletim sistemi ve yazılım yığınının özelleştirilmesini veya güncellenmesini içerebilir.
Özetle, bir DGX istasyonuna NVLink-C2C'nin uygulanması, uyumlu CPU'ların ve GPU'ların entegrasyonu, yüksek hızlı ara bağlantılar ve uygun güç ve soğutma çözümleri de dahil olmak üzere sistemin mimarisinin temel bir yeniden tasarlanmasını gerektirecektir. Ayrıca, NVLink-C2C'nin yeteneklerini tam olarak kullanmak için yazılım değişiklikleri gerekecektir.
Alıntılar:
[1] https://deceloper.nvidia.com/blog/nvidia-grace-hopper-sperchip-architecture-in-epth/
[2] https://www.nvidia.com/en-us/data-center/nvlink/
[3] https://nanoporetech.com/document/nvidia-dgx-ptation-a100-installation-and-use
[4] https://chipsandcheese.com/p/grace-hopper-nvidias-halfway-apu
[5] https://en.wikipedia.org/wiki/nvlink
[6] https://docs.nvidia.com/dgx/dgx
[7] https://www.nvidia.com/en-us/data-center/nvlink-c2c/
[8] https://blogs.nvidia.com/blog/what-is-nvidia-nvlink/