현재 NVIDIA DGX 스테이션은 사용 가능한 가장 강력한 AI 컴퓨팅 시스템 중 하나이며, HBM3E 메모리를 사용하여 초당 최대 8 테라 바이트의 메모리 대역폭과 LPDDR5X 메모리에서 추가 396GB/s를 특징으로합니다 [1] [3]. 그러나 동일한 데스크탑 폼 팩터에서 이러한 수준의 메모리 대역폭을 능가하는 특정한 다가오는 시스템은 없습니다.
데이터 센터 응용 프로그램의 경우 여러 NVIDIA Blackwell GPU를 사용하는 NVIDIA HTX B200과 같은 시스템은 더 높은 메모리 대역폭을 달성 할 수 있습니다. HTX B200은 메모리 대역폭의 초당 최대 62 개의 테라 바이트를 제공하여 DGX 스테이션의 기능을 크게 초과합니다 [1]. 그러나 이러한 시스템은 데스크탑 사용이 아닌 대규모 데이터 센터 배포를 위해 설계되었습니다.
DGX 스테이션 자체는 NVIDIA GB300 Grace Blackwell Ultra Desktop Superchip을 통합하고 784GB의 일관된 메모리 공간을 제공하는 최첨단 시스템입니다. AI 개발을 위해 데이터 센터 레벨 성능을 데스크탑에 가져 오도록 설계되었으므로 대규모 교육 및 추론과 같은 AI 워크로드를 요구하는 데 매우 적합합니다 [5] [6]. 유사한 폼 팩터에서 DGX 스테이션의 메모리 대역폭을 직접 능가하는 발표 된 시스템은 없지만 기술의 발전으로 인해 성능이 향상되는 미래 시스템으로 이어질 수 있습니다.
요약하면 DGX 스테이션보다 메모리 대역폭이 높은 특정 다가오는 데스크톱 AI 시스템은 없지만 HTX B200과 같은 데이터 센터 솔루션은 대규모 응용 프로그램에 대해 상당히 높은 대역폭을 제공합니다.
인용 :
[1] https://www.youtube.com/watch?v=KRBH0Von-2A
[2] https://www.dalco.ch/blog/nvidia-announces-100-80gb-gpu/
[3] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_announces_dgx_spark_and_dgx_station/
[4] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[5] https://www.techpowerup.com/forums/threads/nvidia-announces-dgx-spark-and-dgx-station-ersonal-ai-computers.334300/
[6] https://opentools.ai/news/nvidia-unleashes--future-with-personal-ai-supercomputers
[7] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-pecialized-desktop-line-for-ai-work
[8] https://www.fibermall.com/blog/dgx-server.htm