NVIDIA DGX Spark, trước đây được gọi là Project Digits, được thiết kế để hỗ trợ một loạt các mô hình AI, đặc biệt là những mô hình liên quan đến AI tổng thể và vật lý. Nó được cung cấp bởi NVIDIA GB10 Grace Blackwell Superchip, bao gồm GPU NVIDIA Blackwell mạnh mẽ với các lõi tenor thế hệ thứ năm và hỗ trợ FP4. Cấu hình này cho phép DGX Spark đạt được tới 1.000 nghìn tỷ hoạt động mỗi giây (TOPS) để xử lý AI, khiến nó phù hợp với các nhiệm vụ tinh chỉnh và suy luận với các mô hình lý luận AI nâng cao.
Các mô hình AI được hỗ trợ
- NVIDIA COSMOS LEAFT MÔ HÌNH THẾ GIỚI: Đây là một mô hình nền tảng được sử dụng cho các nhiệm vụ lý luận AI khác nhau. Khả năng của DGX Spark làm cho nó trở thành một nền tảng lý tưởng để làm việc với các mô hình quy mô lớn như vậy.
- Mô hình nền tảng robot NVIDIA GR00T N1: Được thiết kế cho các ứng dụng robot, mô hình này được hưởng lợi từ khả năng tính toán hiệu suất cao của DGX Spark, cho phép các nhà phát triển tinh chỉnh và triển khai các mô hình AI cho robot một cách hiệu quả.
-Mạng thần kinh quy mô lớn: DGX Spark có thể xử lý các mô hình AI lên tới 200 tỷ tham số để suy luận và điều chỉnh các mô hình lên tới 70 tỷ tham số. Điều này làm cho nó phù hợp để đào tạo và tinh chỉnh các mạng lưới thần kinh phức tạp được sử dụng trong các ứng dụng như xử lý ngôn ngữ tự nhiên, tầm nhìn máy tính, v.v.
Các tính năng chính cho đào tạo AI
-Điện toán hiệu suất cao: Khả năng cung cấp hiệu suất cao của GB10 Superchip đảm bảo rằng các mô hình AI có thể được đào tạo và tinh chỉnh nhanh chóng, ngay cả đối với các mô hình lớn và phức tạp.
- Bộ nhớ thống nhất: Với 128GB bộ nhớ LPDDR5X thống nhất, DGX Spark cung cấp tài nguyên rộng rãi để xử lý khối lượng công việc AI tốn nhiều bộ nhớ.
-Khả năng kết nối mạng: Hệ thống hỗ trợ mạng tốc độ cao thông qua ConnectX-7, cho phép kết nối nhiều hệ thống DGX Spark hoạt động trên các mô hình AI cực kỳ lớn hợp tác.
- Hiệu quả năng lượng: Hoạt động ở mức 170W, DGX Spark cung cấp một giải pháp tiết kiệm năng lượng để phát triển AI, làm cho nó phù hợp với nhiều môi trường khác nhau.
Nhìn chung, DGX Spark được thiết kế để trao quyền cho các nhà phát triển, nhà nghiên cứu và nhà khoa học dữ liệu bằng cách cung cấp một nền tảng nhỏ gọn nhưng mạnh mẽ để tạo mẫu, tinh chỉnh và triển khai các mô hình AI cục bộ hoặc trong đám mây với điều chỉnh mã tối thiểu [1] [3] [5].
Trích dẫn:
[1] https://nvidianews.nvidia.com/news/nvidia-announces-dgx-spark-and-dgx-station-personal-ai-computers
.
[3] https://www.theverge.com/news/631957/nvidia-dgx-spark-station-grace-blackwell-ai-supercomputers-gtc
[4] https://docs.netapp.com/us-en/netapp-solutions/ai/ai-dgx-superpod.html
[5] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-specialized-desktop-line-for-ai-work
.
[7] https://github.com/NVIDIA/DeepLearningExamples/blob/master/PyTorch/Recommendation/DLRM/README.md
[8] https://www.nvidia.com/en-us/products/workstations/dgx-station/
[9] https://www.arista.com/assets/data/pdf/Whitepapers/NVIDIA-WP-Scaling-DL-with-Matrix-DGX-1-W03WP201904.pdf
.
[11] https://www.nvidia.com/en-us/products/workstations/dgx-park/
.
.