NVIDIA DGX istasyonu, etkileyici bellek bant genişliğini birkaç temel teknolojiyle elde eder:
1. HBM3E bellek: DGX istasyonu, yüksek bant genişliği ve düşük gecikmesi ile bilinen bir tür yığılmış bellek olan 288GB'a kadar yüksek bant genişlikli bellek 3e (HBM3E) kullanır. Bu bellek teknolojisi, sistemin yüksek bellek bant genişliğini teslim etmek için çok önemlidir ve 8 TB/s'ye kadar ulaşır [1] [7] [8].
2. LPDDR5X Bellek: HBM3E'ye ek olarak, DGX istasyonu, yüksek bant genişliği uygulamaları için tasarlanmış bir tür düşük güçlü DRAM türü olan 496GB'a kadar LPDDR5X belleği destekler. Bu bellek, sistemin 784GB'lık genel tutarlı bellek alanına katkıda bulunur ve 396 GB/s [1] [8] bant genişliği sağlar.
3. NVLink-C2C ara bağlantı: DGX istasyonu, CPU ve GPU arasında tutarlı bir bellek modeli sağlayan NVLink-C2C ara bağlantı teknolojisini kullanır. Bu teknoloji, CPU ve GPU arasında kesintisiz veri aktarımına izin vererek, AI geliştirme iş yüklerindeki ana darboğazlardan birini çözerek bellek bant genişliğini önemli ölçüde artırır [2] [4].
4. Grace CPU ve Blackwell Ultra GPU: Sistem, her ikisi de AI performansını optimize etmek için tasarlanmış bir Grace CPU ve Blackwell Ultra GPU tarafından desteklenmektedir. Bu bileşenlerin NVLink-C2C ara bağlantısı ile kombinasyonu, sistemin yüksek bellek bant genişliğine daha fazla katkıda bulunarak verimli veri iletişimi ve işleme sağlar [1] [2].
Bu teknolojiler, DGX istasyonunun önemli bir bellek bant genişliği sağlamasını sağlayarak, daha önce veri merkezi kaynakları gerektiren AI eğitimi ve çıkarım görevlerini talep etmeye uygun hale getirir.
Alıntılar:
[1] https://www.theregister.com/2025/03/18/gtc_frame_nvidias_budget_blackwell/
[2] https://www.stocktitan.net/news/nvda/nvidia-onnounces-dgx-park-and-dgx-station-personal-ai-ai-ai-ai-a-i-
[3] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[4] https://investor.nvidia.com/news/press-rease-details/2025/nvidia-onnounces-dgx-park-dgx-personal-a-computers/default.aspx
[5] https://www.youtube.com/watch?v=krbh0von-2a
[6] https://www.skybue.de/uploads/datasheets/nvidia_twp_dgx_a100_system_architecture.pdf
[7] https://www.reddit.com/r/localllama/comments/1jee2b2/nvidia_dgx_spark_project_digits_specs_are_out/
[8] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_announces_dgx_spark_and_dgx_station/
[9] https://www.robusthpc.com/wp-content/uploads/2021/11/nvidia-dgx-paper_published.pdf