Stasiun NVIDIA DGX mencapai bandwidth memori yang mengesankan melalui beberapa teknologi utama:
1. Memori HBM3E: Stasiun DGX menggunakan hingga 288GB dari memori band-bandwidth tinggi (HBM3E), yang merupakan jenis memori bertumpuk yang dikenal dengan bandwidth tinggi dan latensi rendah. Teknologi memori ini sangat penting untuk memberikan bandwidth memori tinggi sistem, mencapai hingga 8 TB/S [1] [7] [8].
2. Memori LPDDR5X: Selain HBM3E, stasiun DGX mendukung hingga 496GB memori LPDDR5X, yang merupakan jenis dram daya rendah yang dirancang untuk aplikasi bandwidth tinggi. Memori ini berkontribusi pada ruang memori koheren keseluruhan sistem 784GB dan memberikan bandwidth 396 GB/s [1] [8].
3. NVLink-C2C Interkoneksi: Stasiun DGX menggunakan teknologi interkoneksi NVLink-C2C, yang memungkinkan model memori yang koheren antara CPU dan GPU. Teknologi ini secara signifikan meningkatkan bandwidth memori dengan memungkinkan transfer data yang mulus antara CPU dan GPU, memecahkan salah satu hambatan utama dalam beban pengembangan AI [2] [4].
4. Grace CPU dan Blackwell Ultra GPU: Sistem ini ditenagai oleh CPU Grace dan GPU Ultra Blackwell, yang keduanya dirancang untuk mengoptimalkan kinerja AI. Kombinasi komponen-komponen ini dengan interkoneksi NVLink-C2C memastikan komunikasi dan pemrosesan data yang efisien, lebih lanjut berkontribusi pada bandwidth memori tinggi sistem [1] [2].
Teknologi ini secara kolektif memungkinkan stasiun DGX untuk memberikan bandwidth memori yang substansial, membuatnya cocok untuk menuntut pelatihan AI dan menyimpulkan tugas -tugas yang sebelumnya membutuhkan sumber daya pusat data.
Kutipan:
[1] https://www.theregister.com/2025/03/18/gtc_frame_nvidias_budget_blackwell/
[2.
[3] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[4] https://investor.nvidia.com/news/press-release-details/2025/nvidia-announces-dgx-park-and-dgx-station-personal-ai-computers/default.aspx
[5] https://www.youtube.com/watch?v=Krbh0von-2a
[6] https://www.skyblue.de/uploads/dataSheets/nvidia_twp_dgx_a100_system_architecture.pdf
[7] https://www.reddit.com/r/localllama/comments/1jee2b2/nvidia_dgx_spark_project_digits_specs_are_out/
[8] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_announces_dgx_spark_and_dgx_station/
[9] https://www.robusthpc.com/wp-content/uploads/2021/11/nvidia-dgx-station-a100-system-architecture-white-paper_published.pdf