Stanice NVIDIA DGX dosahuje své působivé šířky pásma paměti prostřednictvím několika klíčových technologií:
1. HBM3E paměť: Stanice DGX využívá až 288 GB paměti s vysokou šířkou šířky 3E (HBM3E), což je typ naskládané paměti známé pro svou vysokou šířku pásma a nízkou latencí. Tato technologie paměti je zásadní pro dodávání vysoké šířky pásma systému a dosažení až 8 TB/S [1] [7] [8].
2. paměť LPDDR5X: Kromě HBM3E stanice DGX podporuje až 496 GB paměti LPDDR5X, což je typ nízkoenergetické DRAM určené pro aplikace s vysokou šířkou pásma. Tato paměť přispívá k celkovému koherentnímu paměťovému prostoru systému 784 GB a poskytuje šířku pásma 396 GB/S [1] [8].
3. NVLINK-C2C InterConnect: Stanice DGX využívá technologii propojení NVLINK-C2C, která umožňuje koherentní paměťovou modelu mezi CPU a GPU. Tato technologie významně zvyšuje šířku pásma paměti tím, že umožňuje přenosu bezproblémových dat mezi CPU a GPU a vyřeší jeden z hlavních úzkých míst v pracovním vytížení vývoje AI [2] [4].
4. Grace CPU a Blackwell Ultra GPU: Systém je poháněn CPU Grace a Blackwell Ultra GPU, které jsou navrženy tak, aby optimalizovaly výkon AI. Kombinace těchto komponent s propojením NVLINK-C2C zajišťuje efektivní datovou komunikaci a zpracování, což dále přispívá k vysoké šířce pásma paměti [1] [2].
Tyto technologie společně umožňují stanici DGX poskytnout značnou šířku pásma paměti, takže je vhodná pro nárok na výcvik AI a inferenční úkoly, které dříve vyžadovaly zdroje datového centra.
Citace:
[1] https://www.theregister.com/2025/03/18/gtc_frame_nvidias_budget_blackwell/
[2] https://www.stocktitan.net/news/nvda/nvidia-announces-park-s-park-and-Dgx-station-ersonal-ai-vg4pfhn7Jedk.html
[3] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[4] https://investor.nvidia.com/news/press-release-details/2025/nvidia-announces-park-and-Dgx-Sersonal-Aim-computers/default.aspx
[5] https://www.youtube.com/watch?v=KRBH0VON-2A
[6] https://www.skyblue.de/uploads/datasheets/nvidia_twp_dgx_a100_system_architecture.pdf
[7] https://www.reddit.com/r/localllama/comments/1jee2b2/nvidia_dgx_spark_project_digits_specs_are_out/
[8] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_announces_dgx_spark_and_dgx_station/
[9] https://www.robusthpc.com/wp-content/uploads/2021/11/nvidia-dgx-station-a100-system-architecture-white-paper_published.pdf