NVIDIA DGX 스테이션 및 DGX 스테이션 A100 및 TESLA V100 GPUS가있는 구형 DGX 스테이션과 같은 이전 DGX 모델은 메모리 대역폭 및 전체 아키텍처에서 상당한 차이를 나타냅니다.
DGX 스테이션 (새 모델)
새로운 DGX 스테이션에는 72 코어 그레이스 CPU와 Blackwell Ultra GPU가 포함 된 GB300 Grace Blackwell Ultra Desktop Superchip이 장착되어 있습니다. 이 시스템은 최대 288GB의 HBM3E GPU 메모리와 최대 496GB의 LPDDR5X CPU 메모리를 특징으로합니다. GPU 메모리의 메모리 대역폭은 GB/S 측면에서 명시 적으로 언급되지 않지만 시스템은 최대 8TB/S의 메모리 대역폭을 지원하며, 이는 이전 모델보다 훨씬 높습니다. CPU 메모리 대역폭은 최대 396GB/s ** [5] [8]입니다.DGX 스테이션 A100
DGX 스테이션 A100은 각각 40GB 또는 80GB의 HBM2 메모리를 갖는 4 개의 NVIDIA A100 SXM4 GPU를 사용합니다. 이 모델의 특정 메모리 대역폭은 상세하지 않지만 A100 GPU는 HBM2 메모리의 경우 일반적으로 GPU 당 약 1,555GB/s로 알려져 있으며 전체 시스템의 경우 총 6,220GB/s입니다 [10].DGX 스테이션 Tesla V100 GPUS
4 개의 TESLA V100 GPUS가있는 구형 DGX 스테이션 모델은 GPU 당 16GB의 HBM2 메모리를 특징으로하며 총 64GB의 GPU 메모리를 특징으로합니다. 각 V100 GPU에 대한 메모리 대역폭은 900GB/s이며 총 GPU 메모리 대역폭은 3.6 tb/s입니다. 또한이 시스템에는 256GB의 DDR4 시스템 메모리가 포함되어 있지만 대역폭은 GPU 메모리만큼 높지 않습니다 [2] [9].주요 차이점
- 메모리 유형 및 대역폭 : 새로운 DGX 스테이션은 GPU 메모리에 HBM3E를 사용하여 이전 모델에서 사용되는 HBM2에 비해 상당히 높은 대역폭을 제공합니다. CPU 메모리 대역폭도 LPDDR5X로 개선됩니다.- 아키텍처 : 새로운 DGX 스테이션은 Grace CPU를 Blackwell Ultra GPU와 통합하여 이전 모델에 비해 AI 워크로드에 대한보다 응집력 있고 효율적인 아키텍처를 제공합니다.
- 확장 성 : 새로운 DGX 스테이션은 메모리 용량이 높고 NVLink-C2C와 같은 더 빠른 상호 연결을 갖춘보다 광범위한 AI 워크로드를 지원하도록 설계되었으며, 이는 PCIE Gen 5의 대역폭의 7 배를 제공합니다 [5] [8].
인용 :
[1] https://www.reddit.com/r/localllama/comments/1jedy17/nvidia_digits_specs_released_and_renamed_to_dgx/
[2] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[3] https://opentools.ai/news/nvidia-unleashes--future-with-personal-ai-supercomputers
[4] https://www.youtube.com/watch?v=KRBH0Von-2A
[5] https://www.notebookcheck.net/nvidia-unveils-dgx-station-desktop-ai-supercomputer-with-72-core-cpu-and-blackwell-ultra-gpu.981669.0.html
[6] https://docs.nvidia.com/dgx/dgxa100-user-guide/introduction-to-dgxa100.html
[7] https://www.techpowerup.com/forums/threads/nvidia-announces-dgx-spark-and-dgx-station-ersonal-ai-computers.334300/
[8] https://www.nvidia.com/en-us/products/workstations/dgx-station/
[9] https://xenon.com.au/product/nvidia-dgx-station/
[10] https://mcomputers.cz/en/products-and-services/nvidia/dgx-systems/nvidia-dgx-station-a100/