Băng thông bộ nhớ của trạm NVIDIA DGX ảnh hưởng đáng kể đến giá của nó so với các hệ thống khác, đặc biệt khi xem xét khả năng hiệu suất cao và thị trường mục tiêu. Trạm DGX được thiết kế cho nghiên cứu và phát triển AI cấp doanh nghiệp, với các thành phần tiên tiến như NVIDIA GB300 Grace Blackwell Ultra Desktop Superchip, bao gồm GPU Blackwell Ultra và CPU GRACE CPU hiệu suất cao thông qua NVLink-C2C. Kiến trúc này hỗ trợ 784 GB không gian bộ nhớ mạch lạc khổng lồ, cho phép truyền dữ liệu tốc độ cao cần thiết cho việc đào tạo AI quy mô lớn và khối lượng công việc suy luận [7].
Băng thông bộ nhớ của trạm DGX cao hơn đáng kể so với DGX Spark, cung cấp 273 GB/s [1]. Trạm DGX, với sự hỗ trợ cho bộ nhớ HBM3E lên tới 288 GB, có thể đạt được băng thông bộ nhớ cao hơn đáng kể, có khả năng vượt quá 396 GB/s khi kết hợp HBM3E và LPDDR5X [4]. Băng thông cao này là rất quan trọng để xử lý các mô hình AI phức tạp và các bộ dữ liệu lớn một cách hiệu quả.
Với các thông số kỹ thuật nâng cao và trọng tâm doanh nghiệp, Trạm DGX dự kiến sẽ có giá cao hơn nhiều so với các hệ thống cấp độ tiêu dùng hoặc thậm chí cấp chuyên nghiệp như DGX Spark. Ước tính cho thấy trạm DGX có thể có giá từ 40.000 đến 60.000 đô la hoặc thậm chí nhiều hơn, tùy thuộc vào cấu hình [8]. Giá này phản ánh khả năng của hệ thống để cung cấp hiệu suất cấp trung tâm dữ liệu trên máy tính để bàn, khiến nó trở nên lý tưởng cho các phòng thí nghiệm nghiên cứu AI và các dự án phát triển AI quy mô lớn [5] [8].
So sánh, DGX Spark, giá cả phải chăng hơn và nhắm mục tiêu vào các nhà phát triển và các dự án AI quy mô nhỏ hơn, bắt đầu từ khoảng 2.999 đô la cho một số cấu hình, với phiên bản mang nhãn hiệu NVIDIA có giá 3,999 đô la [2] [5]. Sự khác biệt đáng kể về giá giữa trạm DGX và DGX Spark phần lớn là do băng thông bộ nhớ vượt trội của trạm và khả năng hiệu suất tổng thể, rất cần thiết để yêu cầu khối lượng công việc AI.
Nhìn chung, băng thông bộ nhớ cao của trạm DGX đóng góp vào giá cao của nó bằng cách cho phép nó xử lý các nhiệm vụ AI phức tạp một cách hiệu quả, biến nó thành một công cụ có giá trị cho các tổ chức yêu cầu khả năng tính toán AI hiệu suất cao.
Trích dẫn:
.
.
[3] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[4] https://www.youtube.com/watch?v=KRBH0VON-2A
[5] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-specialized-desktop-line-for-ai-work
[6] https://docs.nvidia.com/dgx/bp-dgx/storage.html
.
.
[9] https://xenon.com.au/product/nvidia-dgx-station/