Ya, percikan NVIDIA DGX dapat digunakan untuk pengembangan AI lokal dan penyebaran cloud. Begini cara mendukung kemampuan ini:
Pengembangan AI Lokal
Spark DGX dirancang sebagai superkomputer AI yang ringkas, ditenagai oleh NVIDIA GB10 Grace Blackwell Superchip. Superchip ini mencakup GPU NVIDIA Blackwell yang kuat dengan inti tensor generasi kelima dan dukungan FP4, memberikan hingga 1.000 triliun operasi per detik dari komputasi AI. Ini membuatnya ideal untuk menyempurnakan dan inferensi dengan model penalaran AI terbaru, seperti model Nvidia Cosmos Reason World Foundation dan model NVIDIA GR00T N1 Robot Foundation [1] [2] [4].
GB10 Superchip menggunakan teknologi interkoneksi NVIDIA NVLINK-C2C untuk menyediakan model memori CPU+GPU-koheren, yang menawarkan 5x bandwidth PCIe generasi kelima. Ini meningkatkan kinerja untuk beban kerja pengembang AI intensif memori, memungkinkan peneliti, ilmuwan data, pengembang robotika, dan siswa untuk membuat prototipe dan memperbaiki model AI besar secara langsung di desktop mereka [1] [3] [7].
Penempatan Cloud
Platform AI full-stack NVIDIA adalah fitur utama dari DGX Spark, memungkinkan pengguna untuk memindahkan model AI mereka dengan mulus dari desktop mereka ke NVIDIA DGX Cloud atau infrastruktur cloud atau pusat data yang dipercepat. Proses ini hampir tidak memerlukan perubahan kode, membuatnya lebih mudah untuk membuat prototipe, menyempurnakan, dan mengulangi alur kerja di berbagai lingkungan [1] [2] [7].
Fleksibilitas ini memungkinkan pengembang untuk memanfaatkan kekuatan komputasi awan untuk beban kerja AI skala lebih besar sambil mempertahankan kenyamanan pengembangan lokal. Apakah menjalankan model secara lokal untuk pengembangan awal atau menyebarkannya ke cloud untuk pemrosesan skala yang lebih besar, percikan DGX menyediakan alur kerja yang ramping yang mendukung pengembangan dan penyebaran AI berbasis lokal dan cloud [3] [8] [8].
Kutipan:
[1] https://nvidianews.nvidia.com/news/nvidia-announces-dgx-spark-and-dgx-station-personal-ai-computers
[2] https://www.nvidia.com/en-us/products/workstations/dgx-park/
[3.
[4.
[5] https://www.stocktitan.net/news/nvda/nvidia-announces-dgx-park-dgx-station-personal-ai-vg4pfhn7jedk.html
[6] https://www.ainvest.com/news/nvidia-sparks-revolution-personal-ai-computing-meet-dgx-park-dgx-station-2503
[7] https://www.engineering.com/nvidia-uNVeils-dgx-personal-ai-supercomputer-by-grace-backwell/
[8] https://itbrief.ca/story/nvidia-unveils-dgx-park-dgx-station-ai-desktops
[9] https://www.weka.io/wp-content/uploads/2023/04/weka-nvidia-dgx-a100-systems.pdf
[10] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-spesialisasi-desktop-line-for-ai-work
[11] https://www.theverge.com/news/631957/nvidia-dgx-spark-station-meng- blackwell-ai-supercomputers-gtc