NVIDIA GB10 Grace Blackwell Superchip призначений для вирішення завдань машинного навчання з винятковою ефективністю та потужністю. Це ключовий компонент проектних цифр NVIDIA, особистого суперкомп'ютера AI, спрямованого на демократизацію доступу до високопродуктивних обчислень AI для дослідників, науковців та студентів.
Основні функції для машинного навчання
- Продуктивність AI: Superchip GB10 забезпечує до 1 Petaflop продуктивності AI при точності FP4, що робить його здатним виконувати великі моделі AI до 200 мільярдів параметрів. Цей рівень продуктивності має вирішальне значення для складних завдань машинного навчання, таких як природна обробка мови та комп'ютерне бачення [1] [3] [5].
-Архітектура: Superchip заснований на архітектурі NVIDIA Grace Blackwell, поєднуючи GPU Nvidia Blackwell з ядрами Cuda останнього покоління та тензорними ядрами п'ятого покоління. Ці компоненти є важливими для прискорення обчислень машинного навчання [1] [5].
-Інтеграція процесора та GPU: SuperChip GB10 включає високопродуктивний процесор NVIDIA Grace з 20 енергоефективними ядерами, побудованими на архітектурі ARM. Цей процесор підключений до графічного процесора через NVLink-C2C CHIP-TO-CHIP CONNONNECT, що дозволяє проводити високошвидкісну передачу даних між процесором та GPU, що є життєво важливим для ефективного навчання моделі машинного навчання та висновку [1] [7].
- Пам'ять та зберігання: у ньому є 128 ГБ уніфікованої, узгодженої пам'яті та до 4 ТБ сховища NVME. Ця велика пам’ять та ємність для зберігання дозволяє обробляти великі набори даних та складні моделі, які є поширеними в програмах машинного навчання [1] [3].
- Масштабованість: Для ще більш вимогливих завдань два одиниці проектних цифр можуть бути пов'язані між собою за допомогою мережі Nvidia ConnectX, що дозволяє їм запускати моделі з 405 мільярдами параметрів. Ця масштабованість корисна для масштабних проектів машинного навчання, які потребують розподілених обчислень [1] [3].
програми машинного навчання
GB10 Superchip добре підходить для різних програм машинного навчання, включаючи:
- Генеративна ШІ: Він може обробляти складні генеративні моделі, що використовуються в таких завданнях, як генерація зображень та тексту.
- 3D -моделювання та анімація: Superchip підтримує завдання, які потребують високої обчислювальної потужності, таких як візуалізація та моделювання в 3D -середовищах.
- Великі мовні моделі: З можливістю запускати моделі до 200 мільярдів параметрів, він ідеально підходить для завдань обробки природних мов, таких як переклад мов та узагальнення тексту [1] [4].
Розробка та розгортання
Digits Project дозволяє користувачам розробляти та запускати висновок на моделях, використовуючи власну настільну систему, а потім безперешкодно розгортати їх на прискореній хмарній або центрі обробки даних. Цей робочий процес кінця до кінця підтримується програмним забезпеченням AI Enterprise Nvidia AI Enterprise, яка включає такі інструменти, як Pytorch та Jupyter для розробки та розгортання моделі [1] [7].
Загалом, GB10 SuperChip призначений для розширення можливостей розробників прототипу, тонко налаштування та розгортання моделей AI локально, перш ніж масштабувати їх на інфраструктурі хмарних або центрів обробки даних, що робить його потужним інструментом для завдань машинного навчання.
Цитати:
[1] https://quantumzeitgeist.com/nvidia-unveils-smallest-ai-supercomputer-for-developers-everywhere/
[2] https://news.ycombinator.com/item?id=42619139
[3] https://akihabaranews.com/nvidias-new-gb10-superchip/
[4] https://www.hp.com/us-en/workstations/workstation-pcs.html
[5] https://www.elektormagazine.com/news/project-digits-nvidia-unveils-personal-ai-supercomputer
4
[7] https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on-every-desk-and-at-every-ai-developers-fingertips
[8] https://www.guru3d.com/news/page-2017/
[9] https://meta-quantum.today/?p=3460
[10] https://www.hyperstack.cloud/blog/thought-leaderther/nvidia-project-digits-all-you-need-know-about-the-blackwell-ai-supercomputer
[11] https://www.nvidia.com/en-us/project-digits/