Home Arrow Icon Knowledge base Arrow Icon Global Arrow Icon GB10 Superchip은 최대 2 천억 개의 매개 변수의 대형 AI 모델을 어떻게 처리합니까?


GB10 Superchip은 최대 2 천억 개의 매개 변수의 대형 AI 모델을 어떻게 처리합니까?


ASUS Ascent GX10 및 NVIDIA 프로젝트 숫자와 같은 장치에 등장한 NVIDIA GB10 SUPERCHIP는 여러 주요 기술 및 건축 기능을 통해 최대 2 천억 개의 매개 변수의 대형 AI 모델을 처리하도록 설계되었습니다.

1. Petaflop AI 성능 : GB10 Superchip은 최대 1 개의 PETAFLOP의 AI 컴퓨팅 성능을 제공하며, 이는 대규모 AI 모델을 효율적으로 처리하는 데 중요합니다. 이 수준의 성능은 복잡한 AI 모델의 빠른 프로토 타이핑, 미세 조정 및 추론을 허용합니다 [1] [4].

2. Unified Memory : 칩에는 128GB의 통합 된 일관성 메모리가 포함되어 있습니다. 이 통합 메모리 아키텍처는 CPU와 GPU가 동일한 메모리 공간에 액세스하여 데이터 전송 효율성을 크게 향상시키고 대기 시간을 줄일 수 있도록합니다. 이것은 효과적으로 작동하기 위해 상당한 메모리가 필요한 대형 AI 모델에 특히 중요합니다 [3] [5].

3. Grace Blackwell Architecture : GB10 Superchip은 Nvidia Grace Blackwell Architecture를 기반으로하며 고성능 Blackwell GPU와 20 코어 ARM 기반 Grace CPU를 결합합니다. Blackwell GPU는 AI 워크로드에 최적화 된 5 세대 텐서 코어를 특징으로하며 Grace CPU는 데이터 전처리 및 오케스트레이션 작업을 향상시킵니다 [1] [4].

4. NVLINK-C2C 상호 연결 : ChIP는 NVIDIA의 NVLINK-C2C 인터커넥트 기술을 사용하여 CPU와 GPU 간의 대역폭 연결을 제공합니다. 이 상호 연결은 PCIE 5.0의 대역폭의 5 배를 제공하여 AI 계산 중에 CPU와 GPU 간의 완벽한 데이터 전송과 효율적인 협력을 보장합니다 [1] [3].

5. 확장 성 : 더 큰 모델의 경우 GB10 Superchip이 장착 된 두 시스템을 NVIDIA ConnectX 네트워킹 기술을 사용하여 연결할 수 있습니다. 이를 통해 사용자는 Meta의 LLAMA 3.1 모델 [2] [6]와 같은 최대 405 억 파라미터로 AI 모델을 처리 할 수 ​​있습니다.

6. FP4 정밀도 : GB10 슈퍼 칩은 FP4 정밀도에서 작동하여 근사치를 통한 계산 속도를 향상시킵니다. 이 정밀 수준은 많은 AI 응용 프로그램에 적합하며 성능과 정확도 사이의 균형을 제공합니다 [2] [4].

7. 소프트웨어 호환성 : GB10 Superchip은 NVIDIA의 AI 소프트웨어 스택과 완전히 호환됩니다. NEMO Framework for Model Fine Tuning 및 Data Science를위한 Rapids 라이브러리와 같은 도구. 이 호환성은 개발자가 광범위한 AI 도구와 프레임 워크를 활용하여 워크 플로를 최적화 할 수 있도록합니다 [5] [6].

전반적으로 GB10 Superchip의 고성능 컴퓨팅, 효율적인 메모리 아키텍처 및 확장 가능한 디자인의 조합은 최대 2 천억 개의 매개 변수로 대형 AI 모델을 처리하는 데 이상적인 솔루션이되어 개발자 및 연구원을위한 고급 AI 컴퓨팅 기능에 대한 액세스를 민주화합니다.

인용 :
[1] https://press.asus.com/news/press-releases/asus-introduces-ascent-gx-10-ai-supercomputer-powered-by-nvidia-gb-10-grace-blackwell-superchip/
[2] https://www.theverge.com/2025/1/6/24337530/nvidia-ces-digits-super-computer-ai
[3] https://meta-quantum.today/?p=3460
[4] https://akihabaranews.com/nvidias-new-gb10-superchip/
[5] https://dataphoenix.info/nvidia-at-ces-2025-a-desktop-supercomputer- that-can-run-200b-parameter-llms/
[6] https://www.hyperstack.cloud/blog/thoving-leadership/nvidia-project-digits-all-you-need-to-bnow-bnow-the-blackwell-ai-supercomputer
[7] https://www.engineering.com/nvidia-unveils-project-digits-personal-ai-supercomputer/
[8] https://www.reddit.com/r/ollama/comments/1hvplfw/new_nvidia_ai_pc_gb10_with_128g_vram_unified/
[9] https://www.techradar.com/pro/nvidia-unveils-a-blackwell-powered-mini-pc
[10] https://www.techeblog.com/nvidia-project-digits-smallest-ai-supercomputer/
[11] https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on-every-desk-and-a-ai-ai-developers-fingertips