Nvidia GB10 Grace Blackwell Superchip은 탁월한 효율성과 힘으로 기계 학습 작업을 처리하도록 설계되었습니다. 그것은 NVIDIA의 프로젝트 숫자의 핵심 요소 인 개인 AI 슈퍼 컴퓨터 인 연구원, 데이터 과학자 및 학생들을위한 고성능 AI 컴퓨팅에 대한 접근을 민주화하는 것을 목표로합니다.
기계 학습을위한 주요 기능
-AI 성능 : GB10 Superchip은 FP4 정밀도에서 최대 1 개의 PETAFLOP의 AI 성능을 제공하여 최대 2 천억 개의 매개 변수로 대형 AI 모델을 실행할 수 있습니다. 이 수준의 성능은 자연어 처리 및 컴퓨터 비전과 같은 복잡한 기계 학습 작업에 중요합니다 [1] [3] [5].
-아키텍처 : Superchip은 Nvidia Grace Blackwell Architecture를 기반으로 Nvidia Blackwell GPU와 최신 세대 Cuda Cores 및 5 세대 텐서 코어를 결합합니다. 이러한 구성 요소는 기계 학습 계산을 가속화하는 데 필수적입니다 [1] [5].
-CPU 및 GPU 통합 : GB10 Superchip에는 ARM 아키텍처에 구축 된 20 개의 전력 효율적인 코어가 장착 된 고성능 Nvidia Grace CPU가 포함되어 있습니다. 이 CPU는 NVLINK-C2C Chip-to-Chip Interconnect를 통해 GPU에 연결되어 CPU와 GPU 사이의 고속 데이터 전송이 가능하며, 이는 효율적인 기계 학습 모델 교육 및 추론에 필수적입니다 [1] [7].
- 메모리 및 스토리지 : 128GB의 통합, 일관된 메모리 및 최대 4TB의 NVME 스토리지가 특징입니다. 이 충분한 메모리 및 스토리지 용량을 사용하면 기계 학습 응용 프로그램에서 일반적으로 사용되는 대형 데이터 세트 및 복잡한 모델을 처리 할 수 있습니다 [1] [3].
- 확장 성 : 더 까다로운 작업의 경우 NVIDIA ConnectX 네트워킹을 사용하여 두 개의 프로젝트 자리 단위를 연결하여 최대 405 억 파라미터의 모델을 실행할 수 있습니다. 이 확장 성은 분산 컴퓨팅이 필요한 대규모 기계 학습 프로젝트에 유리합니다 [1] [3].
머신 러닝 응용 프로그램
GB10 Superchip은 다음을 포함한 다양한 기계 학습 응용 프로그램에 적합합니다.
- 생성 AI : 이미지 및 텍스트 생성과 같은 작업에 사용되는 복잡한 생성 모델을 처리 할 수 있습니다.
-3D 모델링 및 애니메이션 : SuperChip은 3D 환경에서 렌더링 및 시뮬레이션과 같은 높은 계산 능력이 필요한 작업을 지원합니다.
- 대형 언어 모델 : 최대 2 천억 개의 매개 변수를 실행할 수있는 능력으로 언어 번역 및 텍스트 요약과 같은 자연어 처리 작업에 이상적입니다 [1] [4].
개발 및 배포
프로젝트 숫자를 통해 사용자는 자체 데스크탑 시스템을 사용하여 모델에서 추론을 개발하고 실행 한 다음 가속화 된 클라우드 또는 데이터 센터 인프라에 원활하게 배포 할 수 있습니다. 이 엔드 투 엔드 워크 플로는 모델 개발 및 배포를위한 Pytorch 및 Jupyter 노트북과 같은 도구를 포함하는 NVIDIA의 AI Enterprise Software 플랫폼에서 지원합니다 [1] [7].
전반적으로 GB10 Superchip은 개발자가 클라우드 또는 데이터 센터 인프라에서 확장하기 전에 AI 모델을 원형, 미세 조정 및 로컬로 배포 할 수 있도록 설계되어 기계 학습 작업을위한 강력한 도구가되었습니다.
인용 :
[1] https://quantumzeitgeist.com/nvidia-unveils-smallest-ai-supercomputer-for-developers-everywhere/
[2] https://news.ycombinator.com/item?id=42619139
[3] https://akihabaranews.com/nvidias-new-gb10-superchip/
[4] https://www.hp.com/us-en/workstations/workstation-pcs.html
[5] https://www.elektormagazine.com/news/project-digits-nvidia-unveils-personal-ai-supercomputer
[6] https://opentools.ai/news/nvidia-unleashes--future-with-personal-ai-supercomputers
[7] https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on-every-desk-and-at-ai-ai-developers-fingertips
[8] https://www.guru3d.com/news/page-2017/
[9] https://meta-quantum.today/?p=3460
[10] https://www.hyperstack.cloud/blog/thoving-leadership/nvidia-project-digits-all-you-need-to-bnow-the-bleackwell-ai-supercomputer
[11] https://www.nvidia.com/en-us/project-digits/