NVIDIA DGX Station opnår sin imponerende hukommelsesbåndbredde gennem flere nøgleteknologier:
1. HBM3E-hukommelse: DGX-stationen bruger op til 288 GB højbåndbreddehukommelse 3E (HBM3E), som er en type stablet hukommelse, der er kendt for sin høje båndbredde og lav latenstid. Denne hukommelsesteknologi er afgørende for at levere systemets højhukommelsesbåndbredde og når op til 8 TB/s [1] [7] [8].
2. LPDDR5X-hukommelse: Ud over HBM3E understøtter DGX-stationen op til 496 GB LPDDR5X-hukommelse, som er en type dram med lav effekt designet til applikationer med høj båndbredde. Denne hukommelse bidrager til systemets samlede sammenhængende hukommelsesrum på 784 GB og giver en båndbredde på 396 GB/s [1] [8].
3. NVLINK-C2C Interconnect: DGX-stationen anvender NVLINK-C2C-interconnect-teknologien, som muliggør en sammenhængende hukommelsesmodel mellem CPU og GPU. Denne teknologi forbedrer hukommelsesbåndbredden markant ved at tillade problemfri dataoverførsel mellem CPU og GPU og løse en af de største flaskehalse i AI -udviklingsarbejdsbelastninger [2] [4].
4. Grace CPU og Blackwell Ultra GPU: Systemet er drevet af en Grace CPU og en Blackwell Ultra GPU, som begge er designet til at optimere AI -ydeevne. Kombinationen af disse komponenter med NVLINK-C2C-sammenkoblingen sikrer effektiv datakommunikation og -behandling, hvilket yderligere bidrager til systemets højhukommelsesbåndbredde [1] [2].
Disse teknologier gør det muligt for DGX -stationen at give en betydelig hukommelsesbåndbredde, hvilket gør den velegnet til at kræve AI -træning og inferencingopgaver, der tidligere krævede ressourcer til datacenter.
Citater:
[1] https://www.theregister.com/2025/03/18/gtc_frame_nvidias_budget_blackwell/
)
[3] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
)
[5] https://www.youtube.com/watch?v=krbh0von-2a
[6] https://www.skyblue.de/uploads/dataSheets/nvidia_twp_dgx_a100_system_architecture.pdf
[7] https://www.reddit.com/r/localllama/comments/1jee2b2/nvidia_dgx_spark_project_digits_specs_are_out/
[8] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_announces_dgx_spark_and_dgx_station/
[9] https://www.robusthpc.com/wp-content/uploads/2021/11/nvidia-dgx-station-a100-system-architecture-white-paper_publiceret.pdf