NVIDIA GB10 SUPERCHIP 및 NVIDIA GB300은 모두 AI 처리 기능을 향상 시키도록 설계되었지만 아키텍처, 성능 및 의도 된 사용 사례에서 크게 다릅니다.
gb10 슈퍼 치프
GB10 Superchip은 Nvidia Grace Blackwell Architecture를 기반으로하며 컴팩트 한 데스크탑 형식 요소에 최적화되어 있습니다. 그것은 5 세대 텐서 코어와 FP4 지원을 갖춘 강력한 Blackwell GPU를 특징으로하며, AI 프로세싱 전력의 초당 최대 1 조 1 조 달러의 작업을 제공합니다 [1] [3]. GB10에는 20 코어 ARM CPU가 포함되어있어 데이터 전처리 및 오케스트레이션을 향상시켜 모델 튜닝 가속 및 실시간 추론 [1] [4]. 128GB의 통합 된 일관성 메모리를 제공하므로 개발자는 최대 2 천억 개의 매개 변수를 관리 할 수 있습니다 [1] [7]. GB10은 프로토 타이핑 및 미세 조정을 위해 데스크탑에 강력한 AI 컴퓨팅이 필요한 AI 연구원 및 개발자에게 이상적입니다 [6] [7].
nvidia gb300
대조적으로, NVIDIA GB300은 Grace Blackwell Ultra Architecture로 제작되었으며 특히 엔터프라이즈 환경에서보다 까다로운 AI 워크로드를 위해 설계되었습니다. NVLINK-C2C를 통해 고성능 NVIDIA Grace CPU와 연결된 최신 텐서 코어 및 FP4 정밀도가 장착 된 Blackwell Ultra GPU를 특징으로합니다 [3] [5]. GB300은 최대 288GB HBM3E를 통해 메모리 용량의 상당한 증가를 제공하며, 이는 메모리에서 더 큰 모델을 직접 지원하고 실시간 응용 프로그램의 대기 시간을 줄입니다 [2] [6]. 이 슈퍼 치프는 DGX 스테이션의 일부로, 대규모 784GB의 일관된 메모리 공간을 제공하므로 대규모 교육 및 추론 워크로드에 적합합니다 [3] [6]. GB300은 CX8 네트워크 카드와 1.6T 광학 모듈을 통해 향상된 네트워크 기능을 통해 교육 및 추론 작업 모두에 최적화되어 있으며, 전임자에 비해 두 배가 된 대역폭 [2].
주요 차이점
- 성능 및 아키텍처 : GB10은 최대 1 개의 PETAFLOP의 AI 성능을 제공하는 반면 GB300은 대규모 AI 워크로드에 중점을두고 계산 능력이 상당히 높습니다.
- 메모리 용량 : GB10에는 128GB의 통합 메모리가있는 반면 GB300은 최대 288GB HBM3E를 제공하며 DGX 스테이션과 같은 시스템에 통합되면 최대 784GB의 코 히어 런트 메모리를 제공 할 수 있습니다.
- 의도 된 사용 : GB10은 데스크탑 AI 개발을 위해 설계되었으며, 즉각적인 AI 모델 배포가 필요한 연구원 및 개발자에게 이상적입니다. GB300은 대규모 AI 인프라 요구를 지원하는 엔터프라이즈 환경을 대상으로합니다.
- 네트워킹 및 확장 성 : GB300에는 CX8 네트워크 카드가 포함 된 고급 네트워킹 기능이 포함되어있어 대역폭을 두 배로 늘려 저 스케일 데이터 센터 및 대규모 AI 배포에 더 적합합니다. GB10은 더 큰 모델을 처리하기 위해 ConnectX-7 NIC를 통해 두 시스템을 연결할 수 있지만 대규모 데이터 센터 환경에서 GB300만큼 확장 가능하지는 않습니다.
인용 :
[1] https://press.asus.com/news/press-releases/asus-introduces-ascent-gx-10-ai-supercomputer-powered-by-nvidia-gb-10-grace-blackwell-superchip/
[2] https://drobertcastellano.substack.com/p/nvidia-gb300-redefining-ai-computing
[3] https://nvidianews.nvidia.com/news/nvidia-announces-dgx-spark-and-dgx- 스테이션 --personal-ai-compupers
[4] https://www.bigdatawire.com/this-just-in/nvidia-nveils-project-digits-ersonal-ai-supercomputer/
[5] https://www.nvidia.com/en-us/data-center/dgx-gb300/
[6] https://opentools.ai/news/nvidia-unleashes--future-with-personal-ai-supercomputers
[7] https://meta-quantum.today/?p=3460
[8] https://www.nvidia.com/en-us/data-center/gb300-nvl72/
[9] https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on-every-desk-and-at-ai-ai-developers-fingertips