NVIDIA DGX -stationen och tidigare DGX -modeller, såsom DGX -stationen A100 och den äldre DGX -stationen med TESLA V100 GPU, uppvisar betydande skillnader i minnesbandbredd och övergripande arkitektur.
DGX -station (ny modell)
Den nya DGX-stationen är utrustad med GB300 Grace Blackwell Ultra Desktop Superchip, som inkluderar en 72-kärnor Grace CPU och en Blackwell Ultra GPU. Detta system har upp till 288 GB HBM3E GPU -minne och upp till 496 GB LPDDR5X CPU -minne. Minnesbandbredden för GPU -minnet anges inte uttryckligen i termer av GB/s, men systemet stöder upp till 8 TB/s minnesbandbredd, vilket är betydligt högre än tidigare modeller. CPU -minnesbandbredden är upp till 396 GB/s ** [5] [8].DGX Station A100
DGX -stationen A100 använder fyra NVIDIA A100 SXM4 GPU: er, var och en med antingen 40 GB eller 80 GB HBM2 -minne. Även om den specifika minnesbandbredden för denna modell inte är detaljerad, är A100 GPU: erna kända för sin höga minnesbandbredd, vanligtvis cirka 1 555 GB/s per GPU för HBM2 -minnet, vilket skulle uppgå till cirka 6 220 GB/s för hela systemet [10].DGX -station med Tesla V100 GPU: er
Den äldre DGX -stationsmodellen med fyra TESLA V100 GPU har 16 GB HBM2 -minne per GPU, totalt 64 GB GPU -minne. Minnesbandbredden för varje V100 GPU är 900 GB/s, vilket resulterar i en total GPU -minnesbandbredd på 3,6 TB/s. Dessutom inkluderar systemet 256 GB DDR4 -systemminne, men dess bandbredd är inte så hög som GPU -minnet [2] [9].Nyckelskillnader
- Minnetyp och bandbredd: Den nya DGX -stationen använder HBM3E för GPU -minne, och erbjuder betydligt högre bandbredd jämfört med HBM2 som används i äldre modeller. CPU -minnesbandbredden förbättras också med LPDDR5X.- Arkitektur: Den nya DGX -stationen integrerar en Grace CPU med en Blackwell Ultra GPU, vilket ger en mer sammanhängande och effektiv arkitektur för AI -arbetsbelastningar jämfört med tidigare modeller.
- Skalbarhet: Den nya DGX-stationen är utformad för att stödja mer omfattande AI-arbetsbelastningar med sin högre minneskapacitet och snabbare sammankopplingar som NVLINK-C2C, som erbjuder sju gånger bandbredden för PCIe Gen 5 [5] [8].
Citeringar:
[1] https://www.reddit.com/r/localllamama/comments/1jedy17/nvidia_digits_specs_released_and_enamed_to_dgx/
[2] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[3] https://opentools.ai/news/nvidia- unleashes-the-future-with-personal-ai-supercomputers
[4] https://www.youtube.com/watch?v=krbh0von-2a
[5] https://www.notebookcheck.net/nvidia- unveils-dgx-station-desktop-i-supercomputer
[6] https://docs.nvidia.com/dgx/dgxa100-user-guide/introduktion-to-dgxa100.html
[7] https://www.techpowerup.com/forums/threads/nvidia-announces-dgx-spark-and-dgx-station-personal-ai-computers.334300/
[8] https://www.nvidia.com/en-us/products/workstations/dgx-station/
[9] https://xenon.com.au/product/nvidia-dgx-station/
[10] https://mcomputers.cz/en/products-and-services/nvidia/dgx-systems/nvidia-dgx-station-a100/