DGX 스테이션에서 NVLINK-C2C의 에너지 효율은 전력 소비 및 열 생성을 줄임으로써 열 관리에 영향을 미칩니다. NVLINK-C2C는 프로세서와 가속기 간의 일관적이고 안전한 연결을 제공하는 고속 상호 연결 기술로 PCIE와 같은 기존의 상호 연결에 비해 에너지 효율이 상당히 높아집니다. 이 효율성은 AI 워크로드를 요구하도록 설계된 DGX 스테이션과 같은 시스템의 경우 중요합니다.
nvlink-c2c 에너지 효율
NVLINK-C2C는 구성 요소 간의 데이터 전송에 필요한 전력을 최소화하여 에너지 효율을 향상시킵니다. 그것은 다른 프로세서 또는 IP 블록으로 완전히 일관되고 안전한 가속기를 지원할 수있는 능력을 통해이를 달성하여 고급 포장이있는 NVIDIA 칩의 PCIE Gen 5 Phy에 비해 25 배 높은 에너지 효율을 초래합니다 [4]. 이러한 전력 소비 감소는 작동 중에 발생하는 전체 열을 낮추어 DGX 스테이션의 열 관리에 직접 영향을 미칩니다.
열 관리에 대한 영향
1. 열 생성 감소 : 전력 소비가 낮아지면 시스템에 의해 열이 덜 생성됩니다. 이는 DGX 스테이션과 같은 고성능 컴퓨팅 시스템에 특히 중요합니다. DGX 스테이션은 강렬한 계산 워크로드로 인해 과열되기 쉽습니다.
2. 냉각 시스템 효율성 : DGX 스테이션에는 GPU의 열 설계 전력 (TDP)의 상당 부분을 캡처하도록 설계된 수냉식 시스템이있어 효율적인 열산 및 조용한 작동이 가능합니다 [3]. NVLINK-C2C의 에너지 효율로 인한 열 부하 감소는 최적의 열 범위 내에서 작동하도록하여 과도한 냉각 수요없이 성능을 유지 함으로써이 냉각 시스템을 보완합니다.
3. 시스템 설계 및 확장 성 : NVLINK-C2C가 촉진하는 에너지 효율적인 설계를 통해보다 확장 가능한 시스템 구성을 가능하게합니다. 즉, 데이터 전송 및 열 관리 측면에서 여러 DGX 스테이션이 효율적으로 연결되어 압도적 인 냉각 시스템없이 대규모 AI 컴퓨팅 배포가 가능합니다.
요약하면, DGX 스테이션에서 NVLINK-C2C의 에너지 효율은 전력 소비와 열 생성을 줄임으로써 열 관리 개선에 기여하여 시스템의 전반적인 냉각 효율 및 확장 성을 향상시킵니다. NVLINK-C2C와 DGX 스테이션의 냉각 시스템 간의 시너지 효과는 AI 워크로드를 요구하기위한 신뢰할 수 있고 고성능 작동을 보장합니다.
인용 :
[1] https://www.techpowerup.com/334300/nvidia-announces-dgx-spark-and-dgx- 스테이션 --personal-ai-compupers
[2] https://training.continuumlabs.ai/infrastructure/servers-and-chips/nvidia-gb200-nvl72
[3] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[4] https://www.linkedin.com/pulse/nvidia-nvlink-scalability-from-die-supercomputers-mohamed-hakam-hefny
[5] https://www.nvidia.com/en-us/data-center/dgx-platform/
[6] https://www.supercluster.blog/p/6-ai-supercluster-nvidia-dgx-h100
[7] https://nvidianews.nvidia.com/news/nvidia-announces-nounces-dgx-spark-and-dgx-pistation-pernal-ai-compupers
[8] https://www.nvidia.com/en-gb/data-center/dgx-station/
[9] https://en.wikipedia.org/wiki/nvlink