NVIDIA DGX Spark và DGX Trạm đều là những siêu máy tính AI cá nhân được thiết kế để đưa điện toán AI hiệu suất cao lên máy tính để bàn, nhưng chúng phục vụ cho các nhu cầu khác nhau và cung cấp các hồ sơ hiệu suất khác nhau.
DGX Spark
DGX Spark được bán trên thị trường là siêu máy tính AI nhỏ nhất thế giới và được thiết kế cho nhiều người dùng, bao gồm các nhà nghiên cứu, nhà khoa học dữ liệu và sinh viên. Nó có tính năng NVIDIA GB10 Grace Blackwell Superchip, bao gồm GPU Blackwell mạnh mẽ với lõi tenor thế hệ thứ năm và hỗ trợ FP4. Cấu hình này cho phép DGX Spark đạt được tới 1.000 nghìn tỷ hoạt động mỗi giây (TOPS) cho khối lượng công việc của AI, làm cho nó phù hợp để tạo mẫu, tinh chỉnh và triển khai các mô hình AI cục bộ hoặc trên cơ sở hạ tầng đám mây [1] [2] [3].
DGX Spark đi kèm với 128GB bộ nhớ LPDDR5X thống nhất và cung cấp các tùy chọn lưu trữ lên tới 4TB NVME SSD. Nó cũng hỗ trợ các khả năng mạng nâng cao, chẳng hạn như ConnectX-7, cho phép người dùng kết nối nhiều tia lửa cho các dự án AI lớn hơn [3]. Hệ thống này nhỏ gọn, chạy trên ổ cắm điện tiêu chuẩn và có giá 3.000 USD, giúp đối tượng rộng hơn có thể truy cập được hơn [2] [7].
Trạm DGX
Ngược lại, trạm DGX là một hệ thống máy tính để bàn mạnh mẽ hơn được thiết kế để yêu cầu khối lượng công việc AI, nhắm mục tiêu người dùng chuyên nghiệp và doanh nghiệp. Nó được cung cấp bởi NVIDIA GB300 Grace Blackwell Ultra Desktop Superchip, bao gồm GPU NVIDIA Blackwell Ultra với các lõi tenor mới nhất và độ chính xác của FP4. Thiết lập này cung cấp hiệu suất cấp trung tâm dữ liệu trên máy tính để bàn, làm cho nó trở nên lý tưởng cho đào tạo và suy luận mô hình AI quy mô lớn [1] [6].
Trạm DGX tự hào có một không gian bộ nhớ kết hợp 784GB ấn tượng, nhiều hơn đáng kể so với DGX Spark, cho phép nó xử lý các mô hình AI lớn hơn và phức tạp hơn nhiều. Nó cũng có tính năng NVIDIA ConnectX-8 Supernic, hỗ trợ tốc độ mạng lên tới 800GB/s. Điều này cho phép kết nối tốc độ cao giữa nhiều trạm DGX cho khối lượng công việc AI lớn và tăng tốc chuyển dữ liệu [1] [5].
Mặc dù DGX Spark có sẵn để mua ở mức 3.000 đô la, Trạm DGX dự kiến sẽ được phát hành sau đó vào năm 2025 thông qua các đối tác sản xuất như Asus, Dell và HP, với giá có khả năng cao hơn đáng kể, có khả năng trong khoảng từ 10.000 đến 50.000 đô la [9].
So sánh hiệu suất
Về hiệu suất thô, trạm DGX được thiết kế để xử lý các nhiệm vụ AI đòi hỏi cao hơn do dung lượng bộ nhớ lớn hơn và GPU mạnh hơn. DGX Spark, trong khi mạnh mẽ cho kích thước và giá cả, phù hợp hơn với các dự án AI quy mô nhỏ hơn và tạo mẫu. Cả hai hệ thống đều tận dụng kiến trúc Grace Blackwell của NVIDIA và các công nghệ kết nối tiên tiến để tối ưu hóa hiệu suất cho khối lượng công việc AI, nhưng khả năng của Trạm DGX phù hợp hơn với các yêu cầu cấp doanh nghiệp.
Nhìn chung, DGX Spark cung cấp sự cân bằng về hiệu suất và khả năng chi trả, làm cho AI tính toán dễ tiếp cận hơn với đối tượng rộng hơn, trong khi trạm DGX được định vị là một giải pháp cao cấp cho các chuyên gia và tổ chức yêu cầu sức mạnh xử lý AI cực đoan.
Trích dẫn:
[1] https://nvidianews.nvidia.com/news/nvidia-announces-dgx-spark-and-dgx-station-personal-ai-computers
[2] https://www.theverge.com/news/631957/nvidia-dgx-spark-station-grace-blackwell-ai-supercomputers-gtc
[3] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-specialized-desktop-line-for-ai-work
[4] https://www.nvidia.com/en-eu/project-digits/
.
[6] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-ai-supercomputers
.
[8] https://www.nvidia.com/en-us/products/workstations/dgx-station/
[9] https://www.youtube.com/watch?v=KRBH0VON-2A
[10] https://www.youtube.com/watch?v=csihxri1jt4
[11] https://www.turtlesai.com/en/pages-2527/nvidia-introduces-dgx-spark-fka-digits-and-dgx-station