NVLink пятого поколения, введенная в 2024 году, знаменует собой значительный прогресс по сравнению с предшественниками, особенно с точки зрения пропускной способности и масштабируемости. Вот ключевые различия между NVLink 5.0 и предыдущими поколениями:
полоса пропускания и скорость
- NVLink 5.0 предлагает значительное увеличение пропускной способности, обеспечивая 1,8 ТБ/с общей двунаправленной полосы пропускания на GPU. Это достигается через 18 ссылок NVLink, каждая из которых способен составлять 50 ГБ/с в каждом направлении, на общей сложности 100 ГБ/с на ссылку двунаправленно [1] [4].- NVLink 4.0, найденный в графических процессорах Hopper, также поддерживает 18 ссылок, но на более низкой скорости 50 Гбит/с на ссылку, что приводит к общей полосе пропускания 900 Гбит/с [7].
- NVLink 3.0, используемый в графических процессорах Ampere, таких как A100, поддерживает до 12 ссылок с пропускной способностью 50 ГБ/с на ссылку, достигая в общей сложности 600 ГБ/с [7].
Масштабируемость и архитектура
- NVLink 5.0 предназначена для архитектуры Blackwell, которая оптимизирована для систем с несколькими GPU. Это обеспечивает бесшовную связь между сотнями графических процессоров, что делает его идеальным для вычислений Exascale и крупных моделей ИИ [1] [4].- Предыдущие поколения, в то же время поддерживая конфигурации с несколькими GPU, не предлагали такой же уровень масштабируемости, как NVLink 5.0. Например, NVLink 4.0 использовался в графических процессорах Hopper, которые также поддерживали крупномасштабные конфигурации GPU, но с меньшей пропускной способностью [7].
Технология и взаимосвязь
- NVLink 5.0 использует передовую передачу сигналов PAM4 дифференцированной пары, аналогично NVLink 4.0, но с более высокими показателями передачи данных на полосу [7].-NVLINK Переключатели играют решающую роль в NVLINK 5.0, что позволяет эффективно общаться между графическими процессорами. Переключатель NVLink 5 предлагает 144 порта с неблокирующей способностью переключать 14,4 ТБ/с, значительно повышая масштабируемость на нескольких серверах [4].
Приложения и производительность
- NVLINK 5.0 оптимизирован для высокопроизводительных вычислительных приложений, особенно тех, которые включают в себя крупные модели ИИ и вычисления Exascale. Его повышенная пропускная способность обеспечивает более быстрый обмен данными между графическими процессорами, что имеет решающее значение для сложных задач ИИ и глубокого обучения [1] [4].- Предыдущие поколения также были сосредоточены на высокопроизводительных приложениях, но были ограничены их более низкой пропускной способностью. NVLink 3.0 и 4.0 использовались в средах, требующих высокой вычислительной мощности, таких как AI и HPC, но с меньшей емкостью для очень больших моделей по сравнению с NVLink 5.0 [2] [7].
В целом, NVLink 5.0 представляет собой значительный скачок вперед с точки зрения полосы пропускания, масштабируемости и производительности, позиционируя его в качестве критического компонента для будущих достижений в ИИ и высокопроизводительных вычислениях.
Цитаты:
[1] https://hardwarenation.com/resources/blog/nvidia-nvlink-5-0-ccelerating-multi-gpu-communication/
[2] https://www.fibermall.com/blog/nvidia-nvlink.htm
[3] https://www.fibermall.com/blog/what-is-nvidia-nvlink.htm
[4] https://www.nvidia.com/en-us/data-center/nvlink/
[5] https://www.fibermall.com/blog/evolution-of-nvlink.htm
[6] https://www.nexgencloud.com/blog/performance-benchmarks/nvidia-lackwell-vs-nvidia-hopper-a-detailed-comparison
[7] https://en.wikipedia.org/wiki/nvlink
[8] https://www.naddod.com/blog/unveiling-the-evolution-of-nvlink