Trạm NVIDIA DGX đạt được băng thông bộ nhớ ấn tượng thông qua một số công nghệ chính:
1. Bộ nhớ HBM3E: Trạm DGX sử dụng tới 288GB bộ nhớ băng thông cao 3E (HBM3E), là một loại bộ nhớ xếp chồng lên nhau được biết đến với băng thông cao và độ trễ thấp. Công nghệ bộ nhớ này rất quan trọng để cung cấp băng thông bộ nhớ cao của hệ thống, đạt tới 8 TB/s [1] [7] [8].
2. Bộ nhớ LPDDR5X: Ngoài HBM3E, trạm DGX còn hỗ trợ lên tới 496GB bộ nhớ LPDDR5X, đây là một loại DRAM năng lượng thấp được thiết kế cho các ứng dụng băng thông cao. Bộ nhớ này đóng góp vào không gian bộ nhớ mạch lạc chung của hệ thống là 784GB và cung cấp băng thông 396 GB/s [1] [8].
3. Kết nối NVLink-C2C: Trạm DGX sử dụng công nghệ kết nối NVLink-C2C, cho phép mô hình bộ nhớ kết hợp giữa CPU và GPU. Công nghệ này tăng cường đáng kể băng thông bộ nhớ bằng cách cho phép truyền dữ liệu liền mạch giữa CPU và GPU, giải quyết một trong những tắc nghẽn chính trong khối lượng công việc phát triển AI [2] [4].
4. GRACE CPU và Blackwell Ultra GPU: Hệ thống này được cung cấp bởi CPU GRACE và GPU Blackwell Ultra, cả hai đều được thiết kế để tối ưu hóa hiệu suất AI. Sự kết hợp của các thành phần này với kết nối NVLink-C2C đảm bảo giao tiếp và xử lý dữ liệu hiệu quả, đóng góp thêm vào băng thông bộ nhớ cao của hệ thống [1] [2].
Các công nghệ này cho phép trạm DGX cung cấp băng thông bộ nhớ đáng kể, làm cho nó phù hợp để yêu cầu đào tạo AI và suy luận các nhiệm vụ mà các tài nguyên trung tâm dữ liệu yêu cầu trước đây.
Trích dẫn:
[1] https://www.theregister.com/2025/03/18/gtc_frame_nvidias_budget_blackwell/
[2] https://www.stocktitan.net/news/NVDA/nvidia-announces-dgx-spark-and-dgx-station-personal-ai-vg4pfhn7jedk.html
[3] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[4] https://investor.nvidia.com/news/press-release-details/2025/NVIDIA-Announces-DGX-Spark-and-DGX-Station-Personal-AI-Computers/default.aspx
[5] https://www.youtube.com/watch?v=KRBH0VON-2A
[6] https://www.skyblue.de/uploads/Datasheets/nvidia_twp_dgx_a100_system_architecture.pdf
.
.
[9] https://www.robusthpc.com/wp-content/uploads/201