Станция NVIDIA DGX достигает своей впечатляющей пропускной способности памяти с помощью нескольких ключевых технологий:
1. Память HBM3E: станция DGX использует до 288 ГБ памяти с высокой пропускной способностью 3E (HBM3E), которая является типом уклаженной памяти, известной своей высокой полосой и низкой задержкой. Эта технология памяти имеет решающее значение для доставки высокой пропускной способности системы, достигающей до 8 ТБ/с [1] [7] [8].
2. Память LPDDR5X: в дополнение к HBM3E, станция DGX поддерживает до 496 ГБ памяти LPDDR5X, которая представляет собой тип низкоэтажной драки, предназначенной для приложений с высокой пропускной способностью. Эта память способствует общему когерентному пространству памяти системы 784 ГБ и обеспечивает полосу пропускания 396 ГБ/с [1] [8].
3. NVLINK-C2C Interconnect: на станции DGX используется технология взаимосвязи NVLINK-C2C, которая обеспечивает когерентную модель памяти между ЦП и графическим процессором. Эта технология значительно повышает пропускную способность памяти, позволяя беспрепятственной передаче данных между процессором и графическим процессором, решая одно из основных узких мест в рабочих нагрузках по разработке ИИ [2] [4].
4. CPU Grace и графический процессор Blackwell Ultra. Комбинация этих компонентов с взаимодействием NVLINK-C2C обеспечивает эффективную связь и обработку данных, что еще больше способствует высокой пропускной способности системы [1] [2] [2].
Эти технологии в совокупности позволяют станции DGX обеспечить существенную пропускную способность памяти, что делает ее подходящей для требования задач обучения ИИ и вывода, которые ранее требовали ресурсов центров обработки данных.
Цитаты:
[1] https://www.theregister.com/2025/03/18/gtc_frame_nvidias_budget_blackwell/
[2] https://www.stocktitan.net/news/nvda/nvidia-announces-dgx-park-and-dgx-station-personal-ai-vg4pfhn7jedk.html
[3] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[4] https://investor.nvidia.com/news/press-release-details/2025/nvidia-announces-dgx-spark-and-dgx-station-personal-ai-compusters/default.aspx
[5] https://www.youtube.com/watch?v=KrBH0VON-2A
[6] https://www.skyblue.de/uploads/datasheets/nvidia_twp_dgx_a100_system_architecture.pdf
[7] https://www.reddit.com/r/localllama/comments/1jee2b2/nvidia_dgx_spark_project_digits_specs_are_out/
[8] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_announces_dgx_spark_and_dgx_station/
[9] https://www.robusthpc.com/wp-content/uploads/2021/11/nvidia-dgx-station-a100-system-architecture-white-paper_published.pdf