Единая, когерентная память в суперхипе GB10 значительно повышает производительность модели искусственного интеллекта, предоставляя сплоченную модель памяти процессора+графического процессора. Эта архитектура обеспечивает эффективную передачу данных и доступ между процессором и графическим процессором, что имеет решающее значение для рабочих нагрузок искусственного интеллекта, которые требуют как предварительной обработки данных, так и параллельной обработки. Вот как эта система памяти приносит пользу производительности модели искусственного интеллекта:
1. Эффективная передача данных: Superchip GB10 использует взаимодействие NVLINK-C2C от NVIDIA, которое обеспечивает с низкой задержкой с высокой пропускной способностью между графическим процессором и ЦП. Этот взаимосвязь предлагает в пять раз пропускную способность PCIE 5.0, гарантируя, что данные могут быть переданы быстро и эффективно между процессором и графическим процессором, снижая задержку и повышение общей производительности системы [1] [4].
2. Unified Memory Access: Объединенная архитектура памяти позволяет как ЦП, так и графическому процессору получить доступ к одному и тому же пространству памяти без необходимости явного копирования данных. Это упрощает программирование и уменьшает накладные расходы на управление памятью, поскольку разработчикам не нужно вручную управлять передачами данных между процессором и графическим процессором. Этот унифицированный доступ обеспечивает беспрепятственное выполнение задач, которые требуют как ресурсов процессора, так и графического процессора, таких как предварительная обработка данных и обучение/вывод модели искусственного интеллекта [1] [3].
3. Большая поддержка модели: Объединенная система памяти GB10 Superchip поддерживает до 128 ГБ когерентной системной памяти. Эту емкость достаточно для обработки крупных моделей ИИ с параметрами до 200 миллиардов, что позволяет разработчикам прототип, тонко настройку и запускать эти модели непосредственно на своих настольных компьютерах. При связи с другой системой через NVIDIA ConnectX, он может даже поддерживать модели с параметрами до 405 миллиардов [3] [4].
4. Эффективность мощности: сотрудничество с MediaTek на суперхипе GB10 гарантирует, что оно достигает высокой производительности при сохранении эффективности энергоэффективности. Это позволяет системе работать с использованием стандартной электрической розетки, что делает ее подходящей для настольных сред, не требуя специализированной инфраструктуры питания [4] [5].
Таким образом, объединенная, когерентная память в Superchip GB10 повышает производительность модели искусственного интеллекта, облегчая эффективную передачу данных, упрощение управления памятью, поддержку крупных моделей и поддержания эффективности электроэнергии. Эти функции делают его идеальным решением для исследователей и разработчиков искусственного интеллекта, которым необходимо работать со сложными моделями искусственного интеллекта в масштабе настольных компьютеров.
Цитаты:
[1] https://www.asus.com/news/9ccgzbgiuaqcjvuj/
[2] https://www.bigdatawire.com/this-just-in/nvidia-unveils-project-digits-personal-ai-supercomputer/
[3] https://www.marketscreener.com/quote/stock/asustek-computer-inc-6492304/news/asus-introduces-scent-gx10-ai-supercomputer-powered-by-nvidia-gb10-grace-blackwell-superchip-49373339//
[4] https://dirox.com/post/nvidia-project-digits
[5] https://akihabaranews.com/nvidias-new-gb10-superchip/
[6] https://theexecutivepost.com/nvidia-digits-world-smallest-ai-supercomputer/
[7] https://www.engineering.com/nvidia-unveils-project-digits-personal-ai-supercomputer/
[8] https://www.nvidia.com/en-us/project-digits/
[9] https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on-every-desk-and-at-every-ai-developers-fingertips