NVIDIA DGXステーションおよびDGXステーションA100やTesla V100 GPUを搭載した古いDGXステーションなどの以前のDGXモデルは、メモリ帯域幅と全体的なアーキテクチャに大きな違いを示します。
###DGXステーション(新しいモデル)
新しいDGXステーションには、GB300 Grace Blackwell Ultra Desktop SuperChipが装備されています。これには、72コアグレースCPUとブラックウェルウルトラGPUが含まれています。このシステムは、最大288GBのHBM3E GPUメモリと最大496GBのLPDDR5X CPUメモリを備えています。 GPUメモリのメモリ帯域幅はGB/sの観点からは明示的に記載されていませんが、システムは最大8 Tb/sのメモリ帯域幅をサポートします。これは、以前のモデルよりも大幅に高くなっています。 CPUメモリ帯域幅は最大396 GB/S ** [5] [8]です。
DGXステーションA100
DGXステーションA100は、40 GBまたは80 GBのHBM2メモリを持つ4つのNVIDIA A100 SXM4 GPUを使用しています。このモデルの特定のメモリ帯域幅は詳細ではありませんが、A100 GPUは、HBM2メモリのGPUあたり約1,555 Gb/sで、システム全体で合計約6,220 gb/sになる高メモリ帯域幅で知られています[10]。Tesla V100 GPUを備えたDGXステーション
4つのTesla V100 GPUを備えた古いDGXステーションモデルは、GPUあたり16 GBのHBM2メモリを備えており、合計64 GBのGPUメモリを備えています。各V100 GPUのメモリ帯域幅は900 GB/sであり、合計GPUメモリ帯域幅が3.6 TB/sになります。さらに、システムには256 GBのDDR4システムメモリが含まれていますが、その帯域幅はGPUメモリほど高くはありません[2] [9]。###キーの違い
- メモリタイプと帯域幅：新しいDGXステーションは、GPUメモリにHBM3Eを使用しており、古いモデルで使用されているHBM2と比較して大幅に高い帯域幅を提供します。 CPUメモリ帯域幅もLPDDR5Xで改善されています。
- アーキテクチャ：新しいDGXステーションは、Grace CPUをBlackwell Ultra GPUと統合し、以前のモデルと比較してAIワークロードのよりまとまりのある効率的なアーキテクチャを提供します。
- スケーラビリティ：新しいDGXステーションは、より高いメモリ容量とNVLink-C2Cのようなより高速な相互接続を備えたより広範なAIワークロードをサポートするように設計されています。
引用：
[1] https://www.reddit.com/r/localllama/comments/1jedy17/nvidia_digits_specs_releaded_and_renamed_to_dgx/
[2] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[3] https://opentools.ai/news/nvidia-unleashes--the-future-with-personal-ai-supercomputers
[4] https://www.youtube.com/watch?v=krbh0von-2a
[5] https://www.notebookcheck.net/nvidia-unveils-dgx-station-desktop-ai-supercomputer-with-72-core-cpu-and-blackwell-ultra-gpu.981669.0.html
[6] https://docs.nvidia.com/dgx/dgxa100-user-guide/introduction-to-dgxa100.html
[7] https://www.techpowerup.com/forums/threads/nvidia-Announces-dgx-spark-and-dgx-station-personal-ai-computers.334300/
[8] https://www.nvidia.com/en-us/products/workstations/dgx-station/
[9] https://xenon.com.au/product/nvidia-dgx-station/
[10] https://mcomputers.cz/en/products-and-services/nvidia/dgx-systems/nvidia-dgx-station-a100/