Asus Ascent GX10 ve NVIDIA Project Days gibi cihazlarda yer alan NVIDIA GB10 Superchip, çeşitli temel teknolojiler ve mimari özellikler aracılığıyla 200 milyar parametreye sahip büyük AI modellerini işlemek için tasarlanmıştır:
1. Petaflop AI Performansı: GB10 Superchip, büyük AI modellerinin verimli bir şekilde işlenmesi için çok önemli olan 1 Petaflop AI hesaplama performansı sağlar. Bu performans seviyesi, karmaşık AI modellerinin hızlı prototipleme, ince ayar ve çıkarımını sağlar [1] [4].
2. Birleşik Bellek: Çip, 128GB birleşik, tutarlı bellek içerir. Bu birleşik bellek mimarisi, hem CPU hem de GPU'nun aynı bellek alanına erişebilmesini ve veri aktarım verimliliğini önemli ölçüde artırmasını ve gecikmeyi azaltmasını sağlar. Bu özellikle etkili bir şekilde çalışması için önemli bellek gerektiren büyük AI modelleri için önemlidir [3] [5].
3. Grace Blackwell Mimarisi: GB10 Superchip, yüksek performanslı Blackwell GPU'yu 20 çekirdekli kol bazlı Grace CPU ile birleştiren Nvidia Grace Blackwell mimarisi üzerine inşa edilmiştir. Blackwell GPU, AI iş yükleri için optimize edilen beşinci nesil tensör çekirdeklerine sahiptir ve Grace CPU, veri ön işleme ve düzenleme görevlerini geliştirir [1] [4].
4. NVLink-C2C ara bağlantısı: çip, CPU ve GPU arasında yüksek bant genişliği bağlantısı sağlayan NVIDIA'nın NVLink-C2C ara bağlantı teknolojisini kullanır. Bu ara bağlantı, AI hesaplamaları sırasında CPU ve GPU arasında kesintisiz veri aktarımı ve verimli işbirliği sağlayarak PCIE 5.0'ın bant genişliğinin beş katını sunar [1] [3].
5. Ölçeklenebilirlik: Daha büyük modeller için, GB10 Superchip ile donatılmış iki sistem NVIDIA ConnectX ağ teknolojisi kullanılarak bağlanabilir. Bu, kullanıcıların Meta's Llama 3.1 modeli [2] [6] gibi 405 milyar parametreye sahip AI modellerini kullanmalarını sağlar.
6. FP4 Hassasiyet: GB10 Superchip, FP4 hassasiyetinde çalışır ve bu da hesaplama hızını yaklaşımlar yoluyla artırır. Bu hassas seviye, performans ve doğruluk arasında bir denge sunan birçok AI uygulaması için uygundur [2] [4].
7. Yazılım Uyumluluğu: GB10 Superchip, NEMO Model İnce ayarlama Framework ve Veri Bilimi için Rapids Kütüphaneleri gibi araçlar da dahil olmak üzere NVIDIA'nın AI yazılım yığını ile tamamen uyumludur. Bu uyumluluk, geliştiricilerin iş akışlarını optimize etmek için çok çeşitli AI araçlarından ve çerçevelerinden yararlanabilmelerini sağlar [5] [6].
Genel olarak, GB10 Superchip'in yüksek performanslı bilgi işlem, verimli bellek mimarisi ve ölçeklenebilir tasarım kombinasyonu, onu 200 milyar parametreye sahip büyük AI modellerini işlemek için ideal bir çözüm haline getirerek, geliştiriciler ve araştırmacılar için gelişmiş AI hesaplama yeteneklerine erişimi demokratikleştiriyor.
Alıntılar:
[1] https://press.asus.com/news/press-reelees/asus-introduces-ascent-gx-10-ai-supercomputer-powered-by-nvidia-gb-grace-blackwell-sperchip/
[2] https://www.theverge.com/2025/1/6/24337530/nvidia-ces-digiits-super-computer-ai
[3] https://meta-quantum.today/?p=3460
[4] https://akihabaranews.com/nvidias-new-gb10-sperchip/
[5] https://dataphoenix.info/nvidia-tces-2025-a-desktop-spercomputer-that-can-run-200b-parameter-lms/ llms/
[6] https://www.hyperstack.cloud/blog/thought-leadership/nvidia-project-digits-all-to-no-need-to-now-about-the-hai-a-a-a-a--a--a--a
[7] https://www.engineering.com/nvidia-unveils-project-digits-personal-ai-supercomputer/
[8] https://www.reddit.com/r/ollama/comments/1hvplfw/new_nvidia_ai_pc_gb10_with_128g_vram_unified/
[9] https://www.techradar.com/pro/nvidia-unveils-a-blackwell-powered-pc
[10] https://www.techeblog.com/nvidia-project-digiits-smalest-ai-supercomputer/
[11] https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-to-vover-desk-and-t-avery-ai-velopers-fingerpuptpers