Có, NVIDIA DGX Spark có thể được sử dụng cho cả phát triển AI cục bộ và triển khai đám mây. Đây là cách nó hỗ trợ các khả năng này:
Phát triển AI địa phương
DGX Spark được thiết kế như một siêu máy tính AI nhỏ gọn, được cung cấp bởi NVIDIA GB10 Grace Blackwell Superchip. Superchip này bao gồm GPU NVIDIA Blackwell mạnh mẽ với các lõi tenor thế hệ thứ năm và hỗ trợ FP4, cung cấp tới 1.000 nghìn tỷ hoạt động mỗi giây của AI tính toán. Điều này làm cho nó lý tưởng để tinh chỉnh và suy luận với các mô hình lý luận AI mới nhất, chẳng hạn như mô hình NVIDIA Cosmos Reason World Foundation và Model NVIDIA GR00T N1 Robot Foundation [1] [2] [4].
GB10 SuperChip sử dụng công nghệ kết nối NVIDIA NVLINK-C2C để cung cấp mô hình bộ nhớ kết hợp CPU+GPU, cung cấp 5X băng thông của PCIe thế hệ thứ năm. Điều này giúp tăng cường hiệu suất cho khối lượng công việc của nhà phát triển AI tốn nhiều bộ nhớ, cho phép các nhà nghiên cứu, nhà khoa học dữ liệu, nhà phát triển robot và sinh viên nguyên mẫu và tinh chỉnh các mô hình AI lớn trực tiếp trên máy tính để bàn của họ [1] [3] [7].
Triển khai đám mây
Nền tảng AI đầy đủ của NVIDIA là một tính năng chính của DGX Spark, cho phép người dùng chuyển liền mạch các mô hình AI của họ từ máy tính để bàn của họ sang NVIDIA DGX Cloud hoặc bất kỳ cơ sở hạ tầng đám mây hoặc trung tâm dữ liệu nào khác. Quá trình này hầu như không thay đổi mã, giúp nguyên mẫu dễ dàng hơn, tinh chỉnh và lặp lại trên các quy trình công việc trên các môi trường khác nhau [1] [2] [7].
Tính linh hoạt này cho phép các nhà phát triển tận dụng sức mạnh của điện toán đám mây cho khối lượng công việc AI quy mô lớn hơn trong khi duy trì sự tiện lợi của sự phát triển cục bộ. Cho dù chạy các mô hình cục bộ để phát triển ban đầu hoặc triển khai chúng lên đám mây để xử lý quy mô lớn hơn, DGX Spark cung cấp quy trình công việc hợp lý hỗ trợ cả phát triển và triển khai AI dựa trên địa phương và đám mây [3] [4] [8].
Trích dẫn:
[1] https://nvidianews.nvidia.com/news/nvidia-announces-dgx-spark-and-dgx-station-personal-ai-computers
[2] https://www.nvidia.com/en-us/products/workstations/dgx-park/
[3] https://www.ainvest.com/news/nvidia-unveils-dgx-spark-dgx-station-revolutionizing-personal-ai-computing-2503
.
[5] https://www.stocktitan.net/news/NVDA/nvidia-announces-dgx-spark-and-dgx-station-personal-ai-vg4pfhn7jedk.html
[6] https://www.ainvest.com/news/nvidia-sparks-revolution-personal-ai-computing-meet-dgx-spark-dgx-station-2503
.
[8] https://itbrief.ca/story/nvidia-unveils-dgx-spark-dgx-station-ai-desktops
[9] https://www.weka.io/wp-content/uploads/2023/04/weka-nvidia-dgx-a100-systems.pdf
[10] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-specialized-desktop-line-for-ai-work
[11] https://www.theverge.com/news/631957/nvidia-dgx-spark-station-grace-blackwell-ai-supercomputers-gtc