Реалізація NVLINK-C2C на станції DGX потребує значних апаратних модифікацій, оскільки NVLink-C2C спеціально розроблений для таких систем, як Nvidia Grace Hopper Superchip, який інтегрує як процесорів Nvidia Grace та Nvidia Hopper. Ось ключові вимоги до апаратних засобів та міркувань:
1. Інтеграція GPU NVIDIA GRACE та HOPPER GIA: NVLINK-C2C використовується для з'єднання процесора Грейс та Графія хоппера в межах того ж суперчіпу. Однак станція DGX, як правило, використовує GPU NVIDIA A100, які не підтримують NVLINK-C2C. Вам потрібно буде замінити або інтегрувати ці компоненти сумісним обладнанням.
2. Швидкий взаємозв'язок: NVLink-C2C забезпечує до 900 ГБ/с пропускної здатності двонаправленої пропускної здатності, що значно вища, ніж традиційні з'єднання PCIE. Щоб досягти цього, система повинна підтримувати високошвидкісну технологію взаємозв'язку NVLink-C2C, яка не є вихідною з поточної архітектури станції DGX.
3. Когерентність пам'яті: NVLINK-C2C підтримує апаратну когерентність пам'яті, що дозволяє безперебійному доступу до пам'яті через процесор та графічний процесор без чіткого копіювання. Ця функція вимагає конкретної апаратної підтримки, яка відсутня на стандартних станціях DGX.
4. Потужність та охолодження: Інтеграція високопродуктивних компонентів, таких як у Superchip Grace Hopper, потребує посилених систем подачі електроенергії та охолодження для обробки збільшення енергоспоживання та вироблення тепла.
5. Підтримка програмного забезпечення: Реалізація NVLink-C2C також вимагає сумісного програмного забезпечення та драйверів, які можуть використовувати його функції. Це може включати налаштування або оновлення операційної системи та стек програмного забезпечення для підтримки нової конфігурації обладнання.
Підсумовуючи це, впровадження NVLink-C2C на станції DGX потребує основного переробки архітектури системи, включаючи інтеграцію сумісних процесорів та графічних процесорів, високошвидкісних взаємозв'язків, відповідних рішень потужності та охолодження. Крім того, для повного використання можливостей NVLINK-C2C знадобиться модифікації програмного забезпечення.
Цитати:
[1] https://developer.nvidia.com/blog/nvidia-grace-hopper-superchip-architecture-in-depth/
[2] https://www.nvidia.com/en-us/data-center/nvlink/
[3] https://nanoporetech.com/document/nvidia-dgx-station-a100-installation-and-usure
[4] https://chipsandcheese.com/p/grace-hopper-nvidias-halfway-apu
[5] https://en.wikipedia.org/wiki/nvlink
[6] https://docs.nvidia.com/dgx/dgx-station-user-guide/index.html
[7] https://www.nvidia.com/en-us/data-center/nvlink-c2c/
[8] https://blogs.nvidia.com/blog/what-is-nvidia-nvlink/