NVIDIA DGX 스테이션은 여러 주요 기술을 통해 인상적인 메모리 대역폭을 달성합니다.
1. HBM3E 메모리 : DGX 스테이션은 최대 288GB의 고 대역폭 메모리 3E (HBM3E)를 사용하며, 이는 높은 대역폭과 낮은 대기 시간으로 알려진 스택 메모리의 한 유형입니다. 이 메모리 기술은 시스템의 높은 메모리 대역폭을 제공하는 데 중요하며 최대 8TB/s [1] [7] [8]에 도달합니다.
2. LPDDR5X 메모리 : HBM3E 외에도 DGX 스테이션은 최대 496GB의 LPDDR5X 메모리를 지원하며, 이는 대역폭이 높은 응용 프로그램을 위해 설계된 저전력 DRAM입니다. 이 메모리는 시스템의 전체 일관성 메모리 공간 784GB에 기여하며 396GB/s [1] [8]의 대역폭을 제공합니다.
3. NVLINK-C2C 상호 연결 : DGX 스테이션은 NVLINK-C2C 인터커넥트 기술을 사용하여 CPU와 GPU 사이의 일관된 메모리 모델을 가능하게합니다. 이 기술은 CPU와 GPU 사이의 원활한 데이터 전송을 허용하여 AI 개발 워크로드의 주요 병목 현상 중 하나를 해결함으로써 메모리 대역폭을 크게 향상시킵니다 [2] [4].
4. Grace CPU 및 Blackwell Ultra GPU : 시스템은 Grace CPU와 Blackwell Ultra GPU로 구동되며, 둘 다 AI 성능을 최적화하도록 설계되었습니다. 이러한 구성 요소와 NVLINK-C2C 상호 연결의 조합은 효율적인 데이터 통신 및 처리를 보장하여 시스템의 높은 메모리 대역폭에 더욱 기여합니다 [1] [2].
이러한 기술을 통해 DGX 스테이션은 상당한 메모리 대역폭을 제공 할 수 있으므로 이전에 데이터 센터 리소스를 요구했던 AI 교육 및 추론 작업에 적합합니다.
인용 :
[1] https://www.theeregister.com/2025/03/18/gtc_frame_nvidias_budget_blackwell/
[2] https://www.stocktitan.net/news/nvda/nvidia-announces-dgx-spark-and-dgx-station-pernal-ai-vg4pfhn7jedk.html
[3] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[4] https://investor.nvidia.com/news/press-release-details/2025/nvidia-announces-dgx-spark-and-dgx-personal-ai-compupers/default.aspx
[5] https://www.youtube.com/watch?v=KRBH0von-2A
[6] https://www.skyblue.de/uploads/datasheets/nvidia_twp_dgx_a100_system_architecture.pdf
[7] https://www.reddit.com/r/localllama/comments/1jee2b2/nvidia_dgx_spark_project_digits_specs_are_out/
[8] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_announces_dgx_spark_and_dgx_station/
[9] https://www.robusthpc.com/wp-content/uploads/2021/11/nvidia-dgx-station-a100-system-architection--paper_published.pdf