Stacja NVIDIA DGX osiąga imponującą przepustowość pamięci za pomocą kilku kluczowych technologii:
1. Pamięć HBM3E: Stacja DGX wykorzystuje do 288 GB pamięci o wysokiej pasma 3E (HBM3E), która jest rodzajem pamięci stosowanej znanej z wysokiej przepustowości i niskiego opóźnienia. Ta technologia pamięci ma kluczowe znaczenie dla dostarczania wysokiej przepustowości pamięci systemu, osiągając do 8 TB/s [1] [7] [8].
2. Pamięć LPDDR5X: Oprócz HBM3E stacja DGX obsługuje do 496 GB pamięci LPDDR5X, która jest rodzajem DRAM o niskiej mocy zaprojektowanej dla aplikacji o dużej pasm. Pamięć ta przyczynia się do ogólnej spójnej przestrzeni pamięci systemu 784 GB i zapewnia przepustowość 396 GB/s [1] [8].
3. NVLink-C2C Interconnect: Stacja DGX wykorzystuje technologię NVLink-C2C Interconnect, która umożliwia spójny model pamięci między CPU a GPU. Technologia ta znacznie zwiększa przepustowość pamięci, umożliwiając płynne przesyłanie danych między procesorem a GPU, rozwiązując jeden z głównych wąskich gardeł w obciążeniach rozwoju AI [2] [4].
4. Grace CPU i Blackwell Ultra GPU: System jest zasilany przez procesor Grace i Blackwell Ultra GPU, które zostały zaprojektowane w celu optymalizacji wydajności AI. Połączenie tych komponentów z NVLink-C2c Interconnect zapewnia wydajną komunikację i przetwarzanie danych, co dodatkowo przyczynia się do wysokiej przepustowości pamięci systemu [1] [2].
Technologie te łącznie umożliwiają stacji DGX zapewnienie znacznej przepustowości pamięci, dzięki czemu jest odpowiednia do wymagania szkolenia AI i wnioskowania, które wcześniej wymagały zasobów centrum danych.
Cytaty:
[1] https://www.theregister.com/2025/03/18/gtc_frame_nvidias_budget_blackwell/
[2] https://www.stocktitan.net/news/nvda/nvidia-announces-dgx-spark-and-dgx-tation-personal-ai-vg4pfhn7jedk.html
[3] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[4] https://investor.nvidia.com/news/press-release-details/2025/nvidia-announces-dgx-spark-and-dgx-station-personal-ai-computers/default.aspx
[5] https://www.youtube.com/watch?v=KRBH0VON-2A
[6] https://www.skyblue.de/uploads/datasheets/nvidia_twp_dgx_a100_system_architecture.pdf
[7] https://www.reddit.com/r/localllama/comments/1jee2b2/nvidia_dgx_spark_project_digits_specs_are_out/
[8] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_announces_dgx_spark_and_dgx_station/
[9] https://www.robusthpc.com/wp-content/uploads/2021/11/nvidia-dgx-station-a100-System-archite-paper_published.pdf