Станція NVIDIA DGX та попередні моделі DGX, такі як станція DGX A100 та старіша станція DGX з GPU Tesla V100, демонструють значні відмінності в пропускній здатності пам'яті та загальній архітектурі.
станція DGX (нова модель)
Нова станція DGX оснащена GB300 Grace Blackwell Ultra Desktop Superchip, який включає 72-ядерний процесор Grace Grace та Blackwell Ultra GPU. Ця система має до 288 ГБ пам'яті GPU HBM3E та до 496 ГБ пам'яті процесора LPDDR5X. Пропускна здатність пам’яті для пам’яті GPU явно не вказана з точки зору ГБ/с, але система підтримує до 8 ТБ/с пропускної здатності пам'яті, що значно вища, ніж попередні моделі. Пропускна здатність пам'яті процесора до 396 ГБ/с ** [5] [8].станція DGX A100
Станція DGX A100 використовує чотири графіки NVIDIA A100 SXM4, кожен з 40 ГБ або 80 ГБ пам'яті HBM2. Незважаючи на те, що конкретна пропускна здатність пам'яті для цієї моделі не детально описана, графічні процесори A100 відомі своєю високою пропускною здатністю пам'яті, як правило, близько 1555 ГБ/с за GPU для пам'яті HBM2, що становить приблизно 6220 ГБ/с для всієї системи [10].станція DGX з GPU Tesla V100
Старіша модель станції DGX з чотирма GPU Tesla V100 має 16 ГБ пам'яті HBM2 на GPU, що загалом 64 ГБ пам'яті GPU. Пропускна здатність пам'яті для кожного GPU V100 становить 900 ГБ/с, в результаті чого загальна пропускна здатність пам'яті 3,6 ТБ/с. Крім того, система включає 256 ГБ системної пам'яті DDR4, але її пропускна здатність не така висока, як пам'ять GPU [2] [9].Ключові відмінності
- Тип пам'яті та пропускна здатність: Нова станція DGX використовує HBM3E для пам'яті GPU, пропонуючи значно більшу пропускну здатність порівняно з HBM2, що використовується в старих моделях. Пропускна здатність пам'яті процесора також вдосконалюється за допомогою LPDDR5X.- Архітектура: Нова станція DGX інтегрує графічний процесор з ультра -графічним процесором Blackwell, забезпечуючи більш згуртовану та ефективну архітектуру для навантажень AI порівняно з попередніми моделями.
- Масштабованість: Нова станція DGX призначена для підтримки більш широких робочих навантажень AI з більшою ємністю пам'яті та більш швидкими взаємозв'язками, такими як NVLINK-C2C, який пропонує в сім разів пропускну здатність PCIE GEN 5 [5] [8].
Цитати:
[1] https://www.reddit.com/r/localllama/comments/1jedy17/nvidia_digits_specs_relage_and_renamed_to_dgx/
[2] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
.
[4] https://www.youtube.com/watch?v=krbh0von-2a
[5] https://www.notebookcheck.net/nvidia-unveils-dgx-station-desktop-ai-supercomputer-with-72-core-cpu-and-blackwell-ultra-gpu.981669.0.html
[6] https://docs.nvidia.com/dgx/dgxa100-user-guide/introduction-to-dgxa100.html
[7] https://www.techpowerup.com/forums/threads/nvidia-announces-dgx-spark-and-dgx-station-personal-ai-computers.334300/
[8] https://www.nvidia.com/en-us/products/workstations/dgx-station/
[9] https://xenon.com.au/product/nvidia-dgx-station/
[10] https://mcomputers.cz/en/products-and-services/nvidia/dgx-systems/nvidia-dgx-station-a100/