Внедрение NVLINK-C2C на станции DGX потребует значительных аппаратных модификаций, поскольку NVLINK-C2C специально предназначен для таких систем, как NVIDIA GRACE HOPPER Superchip, которые интегрирует как CPU NVIDIA GRACE, так и NVIDIA Hopper. Вот ключевые требования к оборудованию и соображения:
1. NVIDIA GRACE ЦП и ГПП ГПЕПЕРА: NVLINK-C2C используется для соединения ЦП ГРЕМИ и графического процессора бункера в одном и том же суперхипе. Однако станция DGX обычно использует графические процессоры NVIDIA A100, которые не поддерживают NVLINK-C2C. Вам нужно будет заменить или интегрировать эти компоненты на совместимое оборудование.
2. Высокоскоростной межконце всего: NVLINK-C2C обеспечивает до 900 ГБ/с двунаправленной полосы пропускания, которая значительно выше, чем традиционные соединения PCIE. Чтобы достичь этого, система должна поддерживать высокоскоростную технологию взаимосвязей NVLink-C2C, которая не является родной для текущей архитектуры станции DGX.
3. Связательность памяти: NVLINK-C2C поддерживает когерентность аппаратной памяти, позволяя плавному доступу к памяти через ЦП и графический процессор без явного копирования. Эта функция требует конкретной аппаратной поддержки, которой нет на стандартных станциях DGX.
4. Мощность и охлаждение: интеграция высокопроизводительных компонентов, таких как в Superchip Grace Hopper, потребует улучшенных систем подачи мощности и охлаждения для обработки увеличения энергопотребления и тепла.
5. Поддержка программного обеспечения: внедрение NVLINK-C2C также требует совместимого программного обеспечения и драйверов, которые могут использовать свои функции. Это может включать настройку или обновление операционной системы и программного стека для поддержки новой конфигурации аппаратного обеспечения.
Таким образом, внедрение NVLINK-C2C на станции DGX потребует фундаментальной модернизации архитектуры системы, включая интеграцию совместимых процессоров и графических процессоров, высокоскоростных взаимосвязей, а также соответствующие решения мощности и охлаждения. Кроме того, потребуются модификации программного обеспечения для полного использования возможностей NVLINK-C2C.
Цитаты:
[1] https://developer.nvidia.com/blog/nvidia-grace-hopper-superchip-architecture-in-depth/
[2] https://www.nvidia.com/en-us/data-center/nvlink/
[3] https://nanoporetech.com/document/nvidia-dgx-station-a100-installation-and-use
[4] https://chipsandcheese.com/p/grace-hopper-nvidias-halfway-apu
[5] https://en.wikipedia.org/wiki/nvlink
[6] https://docs.nvidia.com/dgx/dgx-station-user-guide/index.html
[7] https://www.nvidia.com/en-us/data-center/nvlink-c2c/
[8] https://blogs.nvidia.com/blog/what-is-nvidia-nvlink/