La station NVIDIA DGX réalise sa bande passante de mémoire impressionnante à travers plusieurs technologies clés:
1. Mémoire HBM3E: La station DGX utilise jusqu'à 288 Go de mémoire de bande passante élevée 3E (HBM3E), qui est un type de mémoire empilée connue pour sa bande passante élevée et sa faible latence. Cette technologie de mémoire est cruciale pour fournir la bande passante de mémoire élevée du système, atteignant jusqu'à 8 To / s [1] [7] [8].
2. Mémoire LPDDR5X: En plus de HBM3E, la station DGX prend en charge jusqu'à 496 Go de mémoire LPDDR5X, qui est un type de DRAM à faible puissance conçu pour les applications à large bande passante. Cette mémoire contribue à l'espace mémoire cohérent global du système de 784 Go et fournit une bande passante de 396 Go / s [1] [8].
3. Interconnexion NVINK-C2C: la station DGX utilise la technologie d'interconnexion NVINK-C2C, qui permet un modèle de mémoire cohérent entre le CPU et le GPU. Cette technologie améliore considérablement la bande passante de la mémoire en permettant un transfert de données transparente entre le CPU et le GPU, résolvant l'un des principaux goulots d'étranglement des charges de travail de développement de l'IA [2] [4].
4. Grace CPU et Blackwell Ultra GPU: Le système est alimenté par un CPU Grace et un Blackwell Ultra GPU, qui sont tous deux conçus pour optimiser les performances de l'IA. La combinaison de ces composants avec l'interconnexion NVINK-C2C assure une communication et un traitement efficaces des données, contribuant davantage à la bande passante de mémoire élevée du système [1] [2].
Ces technologies permettent collectivement à la station DGX de fournir une bande passante de mémoire substantielle, ce qui le rend adapté à l'exigence de tâches de formation et d'inférence qui nécessitaient auparavant des ressources de centre de données.
Citations:
[1] https://www.thegister.com/2025/03/18/gtc_frame_nvidias_budget_blackwell/
[2] https://www.stocktitan.net/news/nvda/nvidia-annouces-dgx-sker-and-dgx-station-personal-ai-vg4pfhn7jedk.html
[3] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[4] https://investor.nvidia.com/news/press-release-details/2025/nvidia-announces-dgx-scark-and-dgx-station-personal-ai-computers/default.aspx
[5] https://www.youtube.com/watch?v=krbh0von-2a
[6] https://www.skyblue.de/uploads/datasheets/nvidia_twp_dgx_a100_system_architecture.pdf
[7] https://www.reddit.com/r/localllama/comments/1jee2b2/nvidia_dgx_spark_project_digits_specs_are_out/
[8] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_annouces_dgx_spark_and_dgx_station/
[9] https://www.robusthpc.com/wp-content/uploads/2021/11/nvidia-dgx-station-a100-system-architecture-white-paper_publish.pdf