Le NVIDIA DGX Spark est un poste de travail compact AI avec le NVIDIA GB10 Grace Blackwell Superchip, qui comprend un GPU Blackwell avec des noyaux de tenseur de cinquième génération et un soutien FP4. Il offre une bande passante de mémoire de 273 Go / s, ce qui est relativement modeste par rapport à certains autres postes de travail IA haut de gamme et GPU [5] [7] [9].
En comparaison, la station NVIDIA DGX, une autre station de travail AI de NVIDIA, fournit une bande passante de mémoire significativement plus élevée. La station DGX comprend la superchip GB300 Grace Blackwell Ultra Desktop, qui comprend un GPU Blackwell Ultra et un processeur de Core Neoverse V2 de Core-72 Blackwell. Le GPU a accès à 288 Go de mémoire HBM3E avec une bande passante de 8 To / s, tandis que le CPU accède à 496 Go de mémoire LPDDR5X avec une bande passante allant jusqu'à 396 Go / S ** [5].
D'autres systèmes axés sur l'IA, tels que ceux utilisant le GPU NVIDIA A100, offrent une bande passante de mémoire encore plus élevée. Par exemple, le modèle A100 80 Go fournit une bande passante de mémoire de 2 To / s, ce qui est bénéfique pour les applications AI à grande échelle nécessitant un traitement rapide des données [6].
Dans le marché plus large, des systèmes comme le RTX Pro 5000 offrent une bande passante de mémoire impressionnante de 1,3 To / s avec 48 Go de mémoire GDDR7, ce qui les rend hautement compétitifs pour les charges de travail d'IA [7]. Cela souligne que si le DGX Spark est conçu pour l'informatique compacte et haute performance, sa bande passante de mémoire n'est pas aussi élevée que d'autres postes de travail et GPU d'IA spécialisés disponibles.
Dans l'ensemble, la bande passante de mémoire de DGX Spark est optimisée pour son facteur de forme compact et ses tâches de développement d'IA spécifiques, mais il peut ne pas correspondre aux bandes passantes plus élevées disponibles dans des systèmes plus puissants et plus puissants conçus pour les performances au niveau du centre de données.
Citations:
[1] https://nvidianews.nvidia.com/news/nvidia-annunces-dgx-spark-and-dgx-station-sersonal-ai-computers
[2] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-specialized-desktop-line-for-maywork
[3] https://www.micron.com/content/dam/micron/global/public/documents/products/technical-marketing-brief/ddr5-ai-inference-workload-performance-tech-brief.pdf
[4] https://www.ainvest.com/news/nvidia-unveils-dgx-scark-dgx-station-revolutioning-fersonal-ai-computing-2503/
[5] https://beebom.com/nvidia-project-digits-rebranded-to-dgx-spark-dgx-station-announced/
[6] https://datacrunch.io/blog/nvidia-a100-40gb-vs-80-gard
[7] https://www.reddit.com/r/localllama/comments/1jef1dd/dgx_spark_prevify_digits_has_273gbs_memory/
[8] https://phoenixgamedevelovel.com/blog/ai-memory-bandwidth-compission-for-selected-ddr4-cpus/
[9] https://www.youtube.com/watch?v=csihxri1jt4
[10] https://www.youtube.com/watch?v=krbh0von-2a