DGX 스테이션에서 NVLINK-C2C를 구현하려면 NVIDIA Grace Hopper Superchip과 같은 시스템을 위해 특별히 설계되었으므로 Nvidia Grace CPU 및 Nvidia Hopper GPU를 모두 통합합니다. 주요 하드웨어 요구 사항 및 고려 사항은 다음과 같습니다.
1. NVIDIA GRACE CPU 및 HOPPER GPU 통합 : NVLINK-C2C는 동일한 수퍼 칩 내에서 Grace CPU 및 Hopper GPU를 연결하는 데 사용됩니다. 그러나 DGX 스테이션은 일반적으로 NVLINK-C2C를 지원하지 않는 NVIDIA A100 GPU를 사용합니다. 이러한 구성 요소를 호환 하드웨어로 교체하거나 통합해야합니다.
2. 고속 상호 연결 : NVLINK-C2C는 최대 900GB/s의 양방향 대역폭을 제공하며 이는 기존 PCIE 연결보다 훨씬 높습니다. 이를 달성하기 위해이 시스템은 DGX 스테이션의 현재 아키텍처가 아닌 NVLINK-C2C의 고속 상호 연결 기술을 지원해야합니다.
3. 메모리 일관성 : NVLINK-C2C는 하드웨어 메모리 일관성을 지원하여 명시 적 복사없이 CPU 및 GPU에 걸쳐 메모리에 완벽하게 액세스 할 수 있습니다. 이 기능은 표준 DGX 스테이션에 존재하지 않는 특정 하드웨어 지원이 필요합니다.
4. 전력 및 냉각 : Grace Hopper Superchip과 같은 고성능 구성 요소의 통합은 증가 된 전력 소비 및 열 생성을 처리하기 위해 강화 된 전원 전달 및 냉각 시스템이 필요합니다.
5. 소프트웨어 지원 : NVLINK-C2C를 구현하려면 기능을 활용할 수있는 호환 소프트웨어 및 드라이버가 필요합니다. 여기에는 새로운 하드웨어 구성을 지원하기 위해 운영 체제 및 소프트웨어 스택을 사용자 정의하거나 업데이트하는 것이 포함될 수 있습니다.
요약하면, DGX 스테이션에서 NVLINK-C2C를 구현하려면 호환 가능한 CPU 및 GPU의 통합, 고속 상호 연결 및 적절한 전력 및 냉각 솔루션의 통합을 포함하여 시스템 아키텍처의 기본 재 설계가 필요합니다. 또한 NVLINK-C2C의 기능을 완전히 활용하려면 소프트웨어 수정이 필요합니다.
인용 :
[1] https://developer.nvidia.com/blog/nvidia-grace-hopper-superchip-architecture-nepth/
[2] https://www.nvidia.com/en-us/data-center/nvlink/
[3] https://nanoporetech.com/document/nvidia-dgx-station-installation-and-use
[4] https://chipsandcheese.com/p/grace-hopper-nvidias-halfway-apu
[5] https://en.wikipedia.org/wiki/nvlink
[6] https://docs.nvidia.com/dgx/dgx-station-user-guide/index.html
[7] https://www.nvidia.com/en-us/data-center/nvlink-c2c/
[8] https://blogs.nvidia.com/blog/what-is-nvidia-nvlink/