当前,NVIDIA DGX站是可用的最强大的AI计算系统之一,具有HBM3E内存的每秒8吨的内存带宽,来自LPDDR5X MOMERY的396 GB/S额外396 GB/s [1] [3]。但是,没有特定的即将到来的系统宣布在相同的桌面外形尺寸中超过这种内存带宽。
对于数据中心应用程序,使用多个NVIDIA Blackwell GPU的NVIDIA HTX B200等系统可以实现更高的内存带宽。 HTX B200每秒可提供多达62吨的内存带宽,大大超过了DGX站的功能[1]。但是,这些系统是为大型数据中心部署而不是桌面使用而设计的。
DGX站本身是一个尖端的系统,它结合了Nvidia GB300 Grace Blackwell Ultra桌面SuperChip,并提供了巨大的784 GB连贯的内存空间。它旨在将数据中心级的性能带到台式机上以进行AI开发,使其非常适合要求AI工作负载,例如大规模培训和推断[5] [6]。尽管没有宣布的系统直接以类似的形式超过DGX站的内存带宽,但技术的进步可能会导致具有更高性能功能的未来系统。
总而言之,尽管没有比DGX站更高的即将到来的桌面AI系统,但HTX B200(例如HTX B200)的数据中心解决方案为大型应用程序提供了更高的带宽。
引用:
[1] https://www.youtube.com/watch?v=krbh0von-2a
[2] https://www.dalco.ch/blog/nvidia-announces-a100-80gb-gpu/
[3] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_announces_dgx_dgx_spark_and_and_dgx_station/
[4] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[5] https://www.techpowerup.com/forums/threads/nvidia-announces-dgx-spark-spark-and-dgx-station-personal-ai-computers.334300/
[6] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-ai-supercomputers
[7] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-pecialized-desktop-line-for-ai-work
[8] https://www.fibermall.com/blog/dgx-server.htm