Menerapkan NVLink-C2C di stasiun DGX akan membutuhkan modifikasi perangkat keras yang signifikan, karena NVLink-C2C secara khusus dirancang untuk sistem seperti NVIDIA Grace Hopper Superchip, yang mengintegrasikan NVIDIA Grace CPU dan NVIDIA Hopper GPU. Berikut adalah persyaratan dan pertimbangan perangkat keras utama:
1. Nvidia Grace CPU dan Hopper GPU Integrasi: NVLink-C2C digunakan untuk menghubungkan Grace CPU dan Hopper GPU dalam superchip yang sama. Stasiun DGX, bagaimanapun, biasanya menggunakan NVIDIA A100 GPU, yang tidak mendukung NVLink-C2C. Anda perlu mengganti atau mengintegrasikan komponen ini dengan perangkat keras yang kompatibel.
2. Interkoneksi berkecepatan tinggi: NVLink-C2C menyediakan hingga 900 GB/s bandwidth dua arah, yang secara signifikan lebih tinggi daripada koneksi PCIe tradisional. Untuk mencapai hal ini, sistem harus mendukung teknologi interkoneksi berkecepatan tinggi NVLink-C2C, yang bukan asli arsitektur stasiun DGX saat ini.
3. Koherensi Memori: NVLink-C2C mendukung koherensi memori perangkat keras, memungkinkan akses mulus ke memori di seluruh CPU dan GPU tanpa menyalin secara eksplisit. Fitur ini membutuhkan dukungan perangkat keras spesifik yang tidak ada di stasiun DGX standar.
4. Daya dan Pendinginan: Integrasi komponen kinerja tinggi seperti yang ada di Grace Hopper Superchip akan membutuhkan peningkatan pengiriman daya dan sistem pendingin untuk menangani peningkatan konsumsi daya dan pembangkit panas.
5. Dukungan Perangkat Lunak: Menerapkan NVLink-C2C juga membutuhkan perangkat lunak dan driver yang kompatibel yang dapat memanfaatkan fitur-fiturnya. Ini mungkin melibatkan penyesuaian atau memperbarui tumpukan sistem operasi dan perangkat lunak untuk mendukung konfigurasi perangkat keras baru.
Singkatnya, menerapkan NVLink-C2C di stasiun DGX akan memerlukan desain ulang mendasar dari arsitektur sistem, termasuk integrasi CPU dan GPU yang kompatibel, interkoneksi berkecepatan tinggi, dan solusi daya dan pendinginan yang tepat. Selain itu, modifikasi perangkat lunak akan diperlukan untuk sepenuhnya memanfaatkan kemampuan NVLink-C2C.
Kutipan:
[1] https://developer.nvidia.com/blog/nvidia-grace-hopper-superchip-architecture-lepth/
[2] https://www.nvidia.com/en-us/data-center/nvlink/
[3] https://nanoporetech.com/document/nvidia-dgx-station-a100-installation-and-sugen
[4] https://chipsandcheese.com/p/grace-hopper-nvidias-halfway-apu
[5] https://en.wikipedia.org/wiki/nvlink
[6] https://docs.nvidia.com/dgx/dgx-station-user-guide/index.html
[7] https://www.nvidia.com/en-us/data-center/nvlink-c2c/
[8] https://blogs.nvidia.com/blog/what-is-nvidia-nvlink/