Actuellement, la station NVIDIA DGX est l'un des systèmes informatiques d'IA les plus puissants disponibles, avec une bande passante de mémoire allant jusqu'à 8 téraoctets par seconde avec une mémoire HBM3E et 396 Go / s supplémentaires de la mémoire LPDDR5X [1] [3]. Cependant, aucun système à venir spécifique n'est annoncé qui dépasse ce niveau de bande passante de mémoire dans le même facteur de forme de bureau.
Pour les applications de centres de données, des systèmes comme le NVIDIA HTX B200, qui utilise plusieurs GPU NVIDIA Blackwell, peut atteindre des bandes passantes de mémoire encore plus élevées. Le HTX B200 propose jusqu'à 62 téraoctets par seconde de bande passante de mémoire, dépassant considérablement les capacités de la station DGX [1]. Cependant, ces systèmes sont conçus pour les déploiements de centres de données à grande échelle plutôt que pour l'utilisation de bureau.
La station DGX elle-même est un système de pointe, incorporant le NVIDIA GB300 Grace Blackwell Ultra Superchip et offrant un énorme 784 Go d'espace mémoire cohérent. Il est conçu pour apporter des performances au niveau du centre de données aux ordinateurs de bureau pour le développement de l'IA, ce qui le rend très adapté à la demande de charges de travail en IA telles que la formation à grande échelle et l'inférence [5] [6]. Bien qu'il n'y ait pas de systèmes annoncés qui dépassent directement la bande passante de mémoire de la station DGX dans un facteur de forme similaire, les progrès technologiques pourraient conduire à de futurs systèmes avec des capacités de performance encore plus élevées.
En résumé, bien qu'il n'y ait pas de systèmes d'IA de bureau à venir spécifiques annoncés avec une bande passante de mémoire plus élevée que la station DGX, des solutions de centre de données comme le HTX B200 offrent une bande passante nettement plus élevée pour les applications à grande échelle.
Citations:
[1] https://www.youtube.com/watch?v=krbh0von-2a
[2] https://www.dalco.ch/blog/nvidia-annouces-a100-80gb-gpu/
[3] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_annouces_dgx_spark_and_dgx_station/
[4] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[5] https://www.techpowerup.com/forums/threads/nvidia-announs-dgx-spark-and-dgx-station-personal-ai-computers.334300/
[6] https://opentools.ai/news/nvidia-unleashes-the-future-with-sersonal-ai-supercomputers
[7] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-specialized-desktop-line-for-maywork
[8] https://www.fibermall.com/blog/dgx-server.htm