Home Arrow Icon Knowledge base Arrow Icon Global Arrow Icon Bagaimana NVIDIA GB10 Superchip meningkatkan kinerja komputasi AI di DGX Spark


Bagaimana NVIDIA GB10 Superchip meningkatkan kinerja komputasi AI di DGX Spark


Superchip NVIDIA GB10 secara signifikan meningkatkan kinerja komputasi AI dalam percikan DGX dengan mengintegrasikan beberapa teknologi canggih. Berikut gambaran terperinci tentang bagaimana hal itu mencapai ini:

1. Arsitektur dan Komponen: Superchip GB10 didasarkan pada arsitektur NVIDIA Grace Blackwell, menggabungkan GPU Nvidia Blackwell berkinerja tinggi dengan CPU lengan 20-core. GPU memiliki inti tensor generasi kelima dan mendukung presisi FP4, yang sangat penting untuk pemrosesan AI yang efisien. CPU mencakup 10 core Cortex-X925 dan 10 Cortex-A725, menyediakan kemampuan preprocessing dan orkestrasi data yang kuat [2] [4] [7].

2. Memori dan Interkoneksi: GB10 Superchip menggunakan teknologi interkoneksi NVIDIA NVLINK-C2C, yang menyediakan model memori CPU+GPU yang kohesif. Teknologi ini menawarkan bandwidth pcie 5.0, secara signifikan meningkatkan transfer data antara CPU dan GPU. Ini sangat bermanfaat untuk beban kerja AI yang intensif memori, karena menghilangkan kebutuhan akan transfer PCIe dan memastikan akses data yang mulus [1] [3] [6].

3. Memori Unified: Spark DGX, ditenagai oleh GB10 Superchip, termasuk 128GB memori LPDDR5X yang terpadu. Arsitektur memori terpadu ini memungkinkan penanganan yang efisien dari model AI besar, hingga 200 miliar parameter, tanpa perlu manajemen memori manual antara CPU dan GPU. Kemampuan ini sangat penting untuk membuat prototipe, menyempurnakan, dan menjalankan model AI besar secara lokal [4] [5] [8].

4. AI Performance: GB10 Superchip memberikan hingga 1.000 atasan (triliunan operasi per detik) dari daya pemrosesan AI. Tingkat kinerja ini mendukung penyesuaian dan kesimpulan dari model penalaran AI terbaru, seperti model NVIDIA Cosmos Reason World Foundation dan model Yayasan Robot Gr00t N1 [3] [6].

5. Jaringan dan Skalabilitas: Percikan DGX mencakup kemampuan jaringan NVIDIA ConnectX-7, yang memungkinkan pengguna untuk menghubungkan dua sistem untuk menangani model AI yang lebih besar. Fitur skalabilitas ini sangat penting untuk mengelola model dengan parameter melebihi 405 miliar, seperti LLAMA 3.1 [5] [7].

6. Integrasi Perangkat Lunak: DGX Spark hadir dengan perangkat perangkat lunak AI NVIDIA yang diinstal, berjalan pada versi khusus Ubuntu Linux yang dikenal sebagai DGX OS. Pengaturan ini menyederhanakan proses pengembangan dengan memungkinkan penyebaran model AI yang mulus dari desktop ke infrastruktur pusat cloud atau pusat data dengan penyesuaian kode minimal [5] [6].

Singkatnya, superchip NVIDIA GB10 dalam percikan DGX meningkatkan kinerja komputasi AI dengan menawarkan kombinasi GPU+CPU yang kuat, interkoneksi memori bander tinggi, arsitektur memori terpadu, dan kemampuan jaringan yang dapat diskalakan, semuanya dioptimalkan untuk pemrosesan dan penempatan AI yang efisien.

Kutipan:
[1] https://press.asus.com/news/press-releases/asus-introduces-ascent-gx-10-ai-supercomputer-powered-by-nvidia-gb-10-grace-blackwell-superchip/
[2] https://www.tomshardware.com/desktops/mini-pcs/asus-mini-supercomputer-taps-nvidia-grace-blackwell-chip-for-1-000-ai-tops
[3.
[4] https://www.bigdatawire.com/2025/01/10/inside-nvidias-new-desktop-ai-box-project-digits/
[5] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-spesialisasi-desktop-line-for-ai-work
[6] https://www.engineering.com/nvidia-uNVeils-dgx-personal-ai-supercomputer-by-grace-backwell/
[7] https://nvidianews.nvidia.com/news/nvidia-puts-bace-blackwell-on-every-desk-and-at-every-ai-developers-fingertips
[8] https://www.nvidia.com/en-us/products/workstations/dgx-park/
[9] https://www.investing.com/news/company-news/nvidia-launches-personal-ai-supercomputer-for-desktops-93ch-3934971
[10] https://www.nvidia.com/en-us/project-digits/
[11] https://www.techpowerup.com/330617/nvidia-puts-grace-blackwell-on-every-desk-and-at-every-ai-developers-fingertips