La bande passante de la mémoire de la station NVIDIA DGX a un impact significatif sur ses prix par rapport à d'autres systèmes, en particulier lorsque l'on considère ses capacités hautes performances et son marché cible. La station DGX est conçue pour la recherche et le développement de l'IA au niveau de l'entreprise, avec des composants avancés comme le NVIDIA GB300 Grace Blackwell Ultra Desktop Superchip, qui comprend un Blackwell Ultra GPU et un processeur Grace haute performance connecté via NVLink-C2C. Cette architecture prend en charge un énorme 784 Go d'espace mémoire cohérent, permettant un transfert de données à grande vitesse essentiel pour la formation de formation AI et d'inférence à grande échelle [7].
La bande passante de mémoire de la station DGX est notablement plus élevée que celle de la DGX Spark, qui offre 273 Go / s [1]. La station DGX, avec son support pour jusqu'à 288 Go de mémoire HBM3E, peut atteindre une bande passante de mémoire significativement plus élevée, dépassant potentiellement 396 Go / s lors de la combinaison de HBM3E et LPDDR5X [4]. Cette bande passante élevée est cruciale pour gérer efficacement les modèles d'IA complexes et les grands ensembles de données.
Compte tenu de ses spécifications avancées et de sa mise au point de l'entreprise, la station DGX devrait être beaucoup plus élevée que les systèmes de qualité consommatrice ou même de qualité professionnelle comme le DGX Spark. Les estimations suggèrent que la station DGX pourrait coûter entre 40 000 $ et 60 000 $, voire plus, selon la configuration [8]. Ce prix reflète la capacité du système à fournir des performances au niveau des centres de données sur un bureau, ce qui le rend idéal pour les laboratoires de recherche sur l'IA et les projets de développement d'IA à grande échelle [5] [8].
En comparaison, le DGX Spark, qui est plus abordable et ciblant les développeurs et les projets d'IA à plus petite échelle, commence à environ 2 999 $ pour certaines configurations, avec une version de marque NVIDIA au prix de 3 999 $ [2] [5]. La différence de prix significative entre la station DGX et DGX Spark est largement due à la bande passante de mémoire supérieure de la station et aux capacités globales de performance, qui sont essentielles pour exiger les charges de travail d'IA.
Dans l'ensemble, la bande passante de mémoire élevée de la station DGX contribue à sa tarification premium en lui permettant de gérer efficacement les tâches d'IA complexes, ce qui en fait un outil précieux pour les organisations nécessitant des capacités informatiques de haute performance d'IA.
Citations:
[1] https://www.reddit.com/r/localllama/comments/1Jedy17/nvidia_digits_specs_relenty_and_renamed_to_dgx/
[2] https://www.maginative.com/article/nvidia-unveils-dgx-scark-and-dgx-station-desktop-ai-supercomputers-for-the-developper-masses/
[3] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[4] https://www.youtube.com/watch?v=krbh0von-2a
[5] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-specialized-desktop-line-for-ai-work
[6] https://docs.nvidia.com/dgx/bp-dgx/storage.html
[7] https://www.techpowerup.com/forums/threads/nvidia-announs-dgx-spark-and-dgx-station-personal-ai-computers.334300/
[8] https://www.reddit.com/r/localllama/comments/1Jedolw/nvidia_dgx_station_and_digits_officiedly_breded/
[9] https://xenon.com.au/product/nvidia-dgx-station/