Die NVIDIA -DGX -Station und frühere DGX -Modelle wie die DGX Station A100 und die ältere DGX -Station mit Tesla V100 GPUs weisen signifikante Unterschiede in der Speicherbandbreite und der Gesamtarchitektur auf.
DGX Station (neues Modell)
Die neue DGX-Station ist mit dem GB300 Grace Blackwell Ultra Desktop Superchip ausgestattet, der eine 72-Core-Grace-CPU und eine Blackwell Ultra GPU umfasst. Dieses System verfügt über bis zu 288 GB HBM3E -GPU -Speicher und bis zu 496 GB LPDDR5X -CPU -Speicher. Die Speicherbandbreite für den GPU -Speicher wird in Bezug auf GB/S nicht explizit angegeben, aber das System unterstützt bis zu 8 TB/s Speicherbandbreite, was signifikant höher ist als frühere Modelle. Die CPU -Speicherbandbreite beträgt bis zu 396 GB/s ** [5] [8].DGX Station A100
Die DGX Station A100 verwendet vier NVIDIA A100 SXM4 -GPUs mit jeweils 40 GB oder 80 GB HBM2 -Speicher. Während die spezifische Speicherbandbreite für dieses Modell nicht detailliert ist, sind die A100 -GPUs für ihre hohe Speicherbandbreite bekannt, typischerweise rund 1.555 GB/s pro GPU für den HBM2 -Speicher, was für das gesamte System insgesamt ungefähr 6.220 GB/s würde [10].DGX Station mit Tesla V100 GPUs
Das ältere DGX Station -Modell mit vier Tesla V100 -GPUs verfügt über 16 GB HBM2 -Speicher pro GPU mit insgesamt 64 GB GPU -Speicher. Die Speicherbandbreite für jede V100 -GPU beträgt 900 GB/s, was zu einer Gesamt -GPU -Speicherbandbreite von 3,6 TB/s führt. Darüber hinaus umfasst das System 256 GB DDR4 -Systemspeicher, aber seine Bandbreite ist nicht so hoch wie der GPU -Speicher [2] [9].Schlüsselunterschiede
- Speichertyp und Bandbreite: Die neue DGX -Station verwendet HBM3E für den GPU -Speicher und bietet im Vergleich zu HBM2, das in älteren Modellen verwendet wird, eine signifikant höhere Bandbreite. Die CPU -Speicherbandbreite wird auch mit LPDDR5X verbessert.- Architektur: Die neue DGX -Station integriert eine Grace -CPU mit einer Blackwell Ultra GPU, die im Vergleich zu früheren Modellen eine zusammenhängende und effizientere Architektur für KI -Workloads bietet.
- Skalierbarkeit: Die neue DGX-Station ist so konzipiert, dass sie umfangreichere KI-Workloads mit höherer Speicherkapazität und schnelleren Verbindungen wie NVLink-C2C unterstützen, was die siebenfache Bandbreite von PCIe Gen 5 [5] [8] bietet.
Zitate:
[1] https://www.reddit.com/r/localllama/commentments/1jedy17/nvidia_digits_specs_reletest_and_renamed_to_dgx/
[2] https://images.nvidia.com/content/newsletter/email/pdf/dgx-station-wp.pdf
[3] https://opentools.ai/news/nvidia-unleashes-the-future-personal-ai-supercomputers
[4] https://www.youtube.com/watch?v=krbh0von-2a
[5] https://www.notebookcheck.net/nvidia-unveils-dgx-station-desktop-ai-supercomputer-with-72-core-cpu--backwell-ultra-gpu.981669.0.html
[6] https://docs.nvidia.com/dgx/dgxa100-user-guide/inTroduction-todgxa100.html
[7] https://www.techpowerup.com/forums/threads/nvidia-announces-dgx-spark-and-dgx-station-personal-ai-computers.334300/
[8] https://www.nvidia.com/en-us/products/workstations/dgx-station/
[9] https://xenon.com.au/product/nvidia-dgx-station/
[10] https://mcomputers.cz/en/products-and-services/nvidia/dgx-systems/nvidia-dgx-station-a100/