NVIDIA GB10 Grace Blackwell SuperChipは、AIモデルのトレーニングと推論の両方を効率的に処理するように設計された強力なシステムオンチップ(SOC)です。 NVIDIAプロジェクトの数字やASUS Ascent GX10 AIスーパーコンピューターなどのシステムの中心であり、高性能AIコンピューティングへのアクセスを民主化することを目的としています。
###キーコンポーネントとアーキテクチャ
-GPUおよびテンソルコア：GB10 SuperChipは、5世代のテンソルコアを備えたNvidia Blackwell GPUを備えています。これらのテンソルコアは、深い学習タスクに不可欠なマトリックス乗算に最適化されています。複雑なAI計算の高速処理を提供することにより、トレーニングプロセスと推論プロセスの両方のパフォーマンスを大幅に向上させます。
-CPU：スーパーチップには、10皮質X925 CPUコアと10個のA725 CPUコアで構成される高性能、20コアアームCPUが含まれています。このCPUは、データの前処理とオーケストレーションを強化し、モデルのチューニングとリアルタイムの推測を加速させます。アームアーキテクチャは、効率的な電力管理とパフォーマンスに貢献し、Edge AIアプリケーションに適しています。
- メモリと相互接続：GB10 SuperChipは、128GBの統一されたコヒーレントメモリを提供します。これは、大規模なAIモデルを処理するために不可欠です。 NVIDIA NVLINK-C2Cを使用して、従来のPCIEインターフェイスよりも帯域幅が大幅に高いCPU+GPUメモリモデルを提供します。このアーキテクチャにより、CPUとGPU間のシームレスなデータ転送が保証され、トレーニングタスクと推論タスクの両方が最適化されます。
###トレーニングと推論機能
- トレーニング：GB10 SuperChipは主にNvidiaのTesla GPUのような専用のトレーニングチップとして設計されていませんが、AIモデルのプロトタイピングと微調整を処理できます。その高性能GPUとCPUの組み合わせにより、開発者はデスクトップ上でより小型から中規模モデルで直接作業することができます。より大きなモデルの場合、より広範なトレーニングタスクのためにクラウドサービスと併用できます。
- 推論：GB10 SuperChipは推論タスクに優れており、事前に訓練されたモデルを効率的に実行して、新しいデータに基づいてリアルタイムの決定を下します。 FP4精度と第5世代のテンソルコアをサポートすることにより、AIモデルの迅速かつ正確な処理が可能になり、Edge AI、Robotics、Smart IoTデバイスなどの迅速な推論を必要とするアプリケーションに最適です。
###スケーラビリティと展開
Project DigitsとASUS Ascent GX10の両方で、NVIDIA AIソフトウェアを使用したローカルデスクトップ環境からクラウドまたはデータセンターインフラストラクチャへのAIモデルのシームレスな展開を可能にします。これは、開発者がモデルをローカルでプロトタイプし、大幅にコード調整せずにクラウドでスケーリングできることを意味し、効率的な反復と展開プロセスを促進します。
要約すると、GB10 SuperChipは、トレーニングタスクと推論タスクの両方のためのコンパクトでありながら強力なツールをAI開発者に支援するように設計されています。推論とプロトタイピングに向けていますが、その機能は、より広範なトレーニングニーズのためにクラウドサービスとの統合を通じて拡張できます。
引用：
[1] https://www.hyperstack.cloud/blog/thought-leadership/nvidia-project-digits-all-you-need-to-blackwell-ai-supercomputer
[2] https://www.nvidia.com/en-us/project-digits/
[3] https://www.marketscreener.com/quote/stock/asustek-computer-inc-6492304/news/asus-introduces-ascent-gx10-ai-supercomputer
[4] https://press.asus.com/news/press-releases/asus-introduces-ascent-gx-10-ai-supercomputer-by-nvidia-gb-10-grace-blackwell-superchip/
[5] https://www.mediatek.com/press-room/mediatek-collaborates-with-nvidia on-the-new-nvidia-gb10-grace-blackwell-superchip-powering-the-nvidia-project-digits-digits-digits-ai-supercomputer
[6] https://www.friendsofthemetaverse.com/blog/ai-chips-explained-training-vs-inference-processors- unveiled
[7] https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on- every-desk-and-at-every-ai-develolers-fingertips
[8] https://www.reddit.com/r/deeplearning/comments/1hywfah/nvidia_project_digits_vs_rtx_5090_dilemma/
[9] https://meta-quantum.today/?p=3460
[10] https://newsroom.arm.com/blog/arm-nvidia-project-digits-high-performance-ai