Spark Nvidia DGX-это компактная рабочая станция AI с участием Superchip Nvidia GB10 Grace Blackwell Superchip, которая включает в себя графический процессор Blackwell с тензорными ядрами пятого поколения и поддержкой FP4. Он предлагает полосу пропускания памяти 273 Гбит/с, что относительно скромно по сравнению с некоторыми другими высококлассными рабочими станциями ИИ и графическими процессорами [5] [7] [9].
Для сравнения, станция NVIDIA DGX, другая рабочая станция AI от NVIDIA, обеспечивает значительно более высокую пропускную способность памяти. Станция DGX оснащена настольной настольной суперхипом GB300 Blackwell Ultra, который включает в себя Blackwell Ultra GPU и серверный CORE-72 CORE Neoverse V2 CPU. GPU имеет доступ к 288 ГБ памяти HBM3E с полосой пропускной способности 8 ТБ/с, в то время как ЦП обращается к 496 ГБ памяти LPDDR5X с полосой пропускания до 396 ГБ/с ** [5].
Другие системы, ориентированные на AI, такие как системы, использующие графический процессор NVIDIA A100, предлагают еще более высокую пропускную способность памяти. Например, модель A100 80 ГБ обеспечивает полосу пропускания памяти 2 ТБ/с, что полезно для крупномасштабных приложений искусственного интеллекта, требующих быстрой обработки данных [6].
На более широком рынке такие системы, как RTX Pro 5000, предлагают впечатляющие полосы памяти 1,3 ТБ/с с 48 ГБ памяти GDDR7, что делает их высококонкурентными для рабочих нагрузок ИИ [7]. Это подчеркивает, что, хотя DGX Spark предназначена для компактных высокопроизводительных вычислений ИИ, ее пропускная способность памяти не так высока, как некоторые другие специализированные рабочие станции ИИ и GPU.
В целом, пропускная способность памяти DGX Spark оптимизирована для его компактного форм-фактора и конкретных задач разработки искусственного интеллекта, но может не соответствовать более высокой пропускной способности, доступной в более мощных, более крупных системах, предназначенных для производительности на уровне центра обработки данных.
Цитаты:
[1] https://nvidianews.nvidia.com/news/nvidia-announces-dgx-spark-and-dgx-station-personal-ai-computers
[2] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-precialized-desktop-line-for-ai-work
[3] https://www.micron.com/content/dam/micron/global/public/documents/products/technical-marketing-brief/ddr5-ai-inference-workload-performance-brief.pdf
[4] https://www.ainvest.com/news/nvidia-unveils-dgx-park-dgx-station-revolution-personal-ai-computing-2503/
[5] https://beebom.com/nvidia-project-digits-rebrened-to-dgx-park-dgx-station-announced/
[6] https://datacrunch.io/blog/nvidia-a100-40gb-vs-80-gb
[7] https://www.reddit.com/r/localllama/comments/1jef1dd/dgx_spark_previny_digits_has_273gbs_memory/
[8] https://phoenixgamedevelopment.com/blog/ai-memory-bandwidth-comparision-for-selected-ddr4-cpus/
[9] https://www.youtube.com/watch?v=CSIHXRI1JT4
[10] https://www.youtube.com/watch?v=Krbh0von-2a