Станция NVIDIA DGX и предыдущие модели DGX, такие как DGX Station A100 и более старая станция DGX с графическими процессорами Tesla V100, демонстрируют значительные различия в полосе пропускания памяти и общей архитектуре.
Станция DGX (новая модель)
Новая станция DGX оснащена настольным настольным столом GB300 Grace Blackwell Superchip, который включает в себя 72-ядерный процессор Grace и Blackwell Ultra GPU. Эта система оснащена до 288 ГБ памяти HBM3E GPU и до 496 ГБ памяти CPU LPDDR5X. Пропускная способность памяти для памяти графического процессора явно не указана с точки зрения GB/S, но система поддерживает до 8 ТБ/с полосы пропускания памяти, что значительно выше, чем в предыдущих моделях. Пропускная способность памяти процессора составляет до 396 ГБ/с ** [5] [8].DGX Station A100
На станции DGX A100 используется четыре графических процессора NVIDIA A100 SXM4, каждый с 40 ГБ или 80 ГБ памяти HBM2. В то время как конкретная пропускная способность памяти для этой модели не детализирована, графические процессоры A100 известны своей высокой пропускной способностью памяти, как правило, около 1555 Гбит/с на графический процессор для памяти HBM2, что составляет приблизительно 6220 ГБ/с для всей системы [10].Станция DGX с графическими процессорами Tesla V100
Более старая модель станции DGX с четырьмя графическими процессорами Tesla V100 оснащена 16 ГБ памяти HBM2 на графический процессор, на общую сумму 64 ГБ памяти графического процессора. Пропускная способность памяти для каждого графического процессора V100 составляет 900 Гбит/с, что приводит к общей пропускной способности памяти графического процессора 3,6 ТБ/с. Кроме того, система включает в себя 256 ГБ системной памяти DDR4, но ее полоса пропускания не так высока, как память GPU [2] [9].Ключевые различия
- Тип памяти и пропускная способность: новая станция DGX использует HBM3E для памяти графического процессора, предлагая значительно более высокую пропускную способность по сравнению с HBM2, используемым в более старых моделях. Пропускная способность памяти процессора также улучшается с помощью LPDDR5X.- Архитектура: новая станция DGX объединяет процессор Grace с графическим процессором Blackwell Ultra, обеспечивая более сплоченную и эффективную архитектуру для рабочих нагрузок ИИ по сравнению с предыдущими моделями.
- Масштабируемость: новая станция DGX предназначена для поддержки более обширных рабочих нагрузок ИИ с более высокой способностью памяти и более быстрыми межсоединениями, такими как NVLINK-C2C, который в семь раз больше пропускания PCIE Gen 5 [5] [8].
Цитаты:
[1] https://www.reddit.com/r/localllama/comments/1jedy17/nvidia_digits_specs_relead_and_renamed_to_dgx/
[2] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[3] https://opentools.ai/news/nvidia-unleashone-the-future-with-personal-ai-supercomputers
[4] https://www.youtube.com/watch?v=Krbh0von-2a
[5] https://www.notebookcheck.net/nvidia-unveils-dgx-station-desktop-ai-supercomputer-with-72-core-cpu-and-blackwell-ultra-gpu.981669.0.html
[6] https://docs.nvidia.com/dgx/dgxa100-user-guide/introduction-to-dgxa100.html
[7] https://www.techpowerup.com/forums/threads/nvidia-annonces-dgx-park-and-dgx-station-personal-ai-computers.334300/
[8] https://www.nvidia.com/en-us/products/workstations/dgx-station/
[9] https://xenon.com.au/product/nvidia-dgx-station/
[10] https://mcomputers.cz/en/products-and-services/nvidia/dgx-systems/nvidia-dgx-station-a100/