Stanica NVIDIA DGX dosahuje svoju pôsobivú šírku pásma pamäte prostredníctvom niekoľkých kľúčových technológií:
1. Pamäť HBM3E: Stanica DGX využíva až 288 GB s vysokou šírkou šírky 3e (HBM3E), ktorá je typom naskladanej pamäte známej pre svoju vysokú šírku pásma a nízku latenciu. Táto pamäťová technológia je rozhodujúca pre poskytnutie šírky pásma vysokej pamäte systému, ktorá dosahuje až 8 TB/s [1] [7] [8].
2. LPDDR5X Pamäť: Okrem HBM3E stanica DGX podporuje až 496 GB pamäte LPDDR5X, ktorá je typom nízko-spotového DRAM určený pre aplikácie s vysokou šírkou. Táto pamäť prispieva k celkovému koherentnému pamäťovému priestoru systému 784 GB a poskytuje šírku pásma 396 GB/s [1] [8].
3. NVLink-C2C Interconnect: Stanica DGX používa technológiu Interconnect NVLink-C2C, ktorá umožňuje koherentný pamäťový model medzi CPU a GPU. Táto technológia významne zvyšuje šírku pásma pamäte tým, že umožňuje plynulý prenos údajov medzi CPU a GPU, pričom vyrieši jeden z hlavných prekážok v pracovnom zaťažení vývoja AI [2] [4].
4. Grace CPU a Blackwell Ultra GPU: Systém je poháňaný Grace CPU a Blackwell Ultra GPU, ktoré sú navrhnuté tak, aby optimalizovali výkon AI. Kombinácia týchto komponentov s prepojením NVLink-C2C zaisťuje účinnú dátovú komunikáciu a spracovanie, čo ďalej prispieva k vysokej šírke pásma pamäte systému [1] [2].
Tieto technológie kolektívne umožňujú stanici DGX poskytnúť značnú šírku pásma pamäte, vďaka čomu je vhodná na požadovanie výcvikových úloh a inferencií, ktoré predtým vyžadovali zdroje dátového centra.
Citácie:
[1] https://www.theregister.com/2025/03/18/gtc_frame_nvidias_budget_blackwell/
Https://www.stocktitan.net/news/nvda/nvidia-annunces-dgx-park-dgx-dgx-tation-pation-personal-ai-vg4pfHn7jedk.html
[3] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[4] https://investor.nvidia.com/news/press-release-details/2025/nvidia-annunces-dgx-park-and-dgx-dation-pation-ational-ai-ai-computers/default.aspx
[5] https://www.youtube.com/watch?v=krbH0Von-2a
[6] https://www.skyblue.de/uploads/datasheets/nvidia_twp_dgx_a100_system_architurt.pdf
Https://www.reddit.com/r/localllama/comments/1jee2b2/nvidia_dgx_spark_project_digits_specs_are_out/
[8] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_annunces_dgx_spark_and_dgx_station/
Https://www.robusthpc.com/wp-content/uploads/2021/11/nvidia-dgx-tation-ation-a100-System-architutec-white-wite-paper_published.pdf
