Het NVIDIA DGX -station bereikt zijn indrukwekkende geheugenbandbreedte via verschillende belangrijke technologieën:
1. HBM3E-geheugen: het DGX-station gebruikt tot 288 GB hoog-bandbreedte geheugen 3E (HBM3E), een type gestapeld geheugen dat bekend staat om zijn hoge bandbreedte en lage latentie. Deze geheugentechnologie is cruciaal voor het leveren van de hoge geheugenbandbreedte van het systeem en bereikt tot 8 tbc/s [1] [7] [8].
2. LPDDR5X-geheugen: naast HBM3E ondersteunt het DGX-station tot 496 GB LPDDR5X-geheugen, een type low-power DRAM dat is ontworpen voor toepassingen met een hoge bandbreedte. Dit geheugen draagt bij aan de algehele coherente geheugenruimte van het systeem van 784 GB en biedt een bandbreedte van 396 GB/s [1] [8].
3. NVLINK-C2C Interconnect: het DGX-station maakt gebruik van de NVLINK-C2C Interconnect-technologie, die een coherent geheugenmodel mogelijk maakt tussen de CPU en GPU. Deze technologie verbetert de geheugenbandbreedte aanzienlijk door naadloze gegevensoverdracht tussen de CPU en GPU toe te staan, waardoor een van de belangrijkste knelpunten in AI -ontwikkelingswerklast wordt opgelost [2] [4].
4. Grace CPU en Blackwell Ultra GPU: het systeem wordt aangedreven door een Grace CPU en een Blackwell Ultra GPU, die beide zijn ontworpen om de AI -prestaties te optimaliseren. De combinatie van deze componenten met de NVLink-C2C-interconnect zorgt voor efficiënte gegevenscommunicatie en -verwerking, wat verder bijdraagt aan de hoge geheugenbandbreedte van het systeem [1] [2].
Deze technologieën stellen het DGX -station gezamenlijk in staat om een substantiële geheugenbandbreedte te bieden, waardoor het geschikt is voor het eisen van AI -training en inferentietaken die voorheen bronnen voor datacenter nodig hadden.
Citaten:
[1] https://www.theregister.com/2025/03/18/gtc_frame_nvidias_budget_blackwell/
[2] https://www.stocktitan.net/news/nvda/nvidia-announces-dgx-spark-and-dgx-station-personal-ai-vg4pfhn7jedk.html
[3] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[4] https://investor.nvidia.com/news/press-release-details/2025/nvidia-announces-dgx-spark-and-dgx-station-personal-ai-computers/default.aspx
[5] https://www.youtube.com/watch?v=krbh0von-2a
[6] https://www.skyblue.de/uploads/Datasheets/nvidia_twp_dgx_a100_system_architecture.pdf
[7] https://www.reddit.com/r/localllama/comments/1jee2b2/nvidia_dgx_spark_project_digits_specs_are_are_out/
[8] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_announces_dgx_spark_and_dgx_station/
[9] https://www.robusthpc.com/wp-content/uploads/2021/11/nvidia-dgx-station-a100-system-architecture-white-paper_publiced.pdf