Stasiun NVIDIA DGX dan model DGX sebelumnya, seperti stasiun DGX A100 dan stasiun DGX yang lebih tua dengan Tesla V100 GPU, menunjukkan perbedaan yang signifikan dalam bandwidth memori dan arsitektur keseluruhan.
Stasiun
DGX (model baru)
Stasiun DGX baru ini dilengkapi dengan Superchip Desktop Ultra GRACHWELL GB300 Blackwell Ultra, yang mencakup CPU Grace 72-core dan GPU Blackwell Ultra. Sistem ini menampilkan hingga 288GB memori GPU HBM3E dan hingga 496GB memori CPU LPDDR5X. Bandwidth memori untuk memori GPU tidak dinyatakan secara eksplisit dalam hal GB/S, tetapi sistem mendukung hingga 8 TB/s bandwidth memori, yang secara signifikan lebih tinggi dari model sebelumnya. Bandwidth memori CPU hingga 396 GB/s ** [5] [8].DGX Station A100
Stasiun DGX A100 menggunakan empat GPU NVIDIA A100 SXM4, masing -masing dengan memori HBM2 40 GB atau 80 GB. Sementara bandwidth memori spesifik untuk model ini tidak terperinci, GPU A100 dikenal karena bandwidth memori yang tinggi, biasanya sekitar 1.555 GB/s per GPU untuk memori HBM2, yang total sekitar 6.220 GB/s untuk seluruh sistem [10].Stasiun
DGX dengan GPU Tesla V100
Model stasiun DGX yang lebih lama dengan empat GPU Tesla V100 memiliki fitur 16 GB memori HBM2 per GPU, total 64 GB memori GPU. Bandwidth memori untuk setiap GPU V100 adalah 900 GB/s, menghasilkan total bandwidth memori GPU 3,6 tb/s. Selain itu, sistem ini mencakup 256 GB memori sistem DDR4, tetapi bandwidthnya tidak setinggi memori GPU [2] [9].Perbedaan utama
- Jenis memori dan bandwidth: Stasiun DGX baru menggunakan HBM3E untuk memori GPU, menawarkan bandwidth yang jauh lebih tinggi dibandingkan dengan HBM2 yang digunakan dalam model yang lebih lama. Bandwidth memori CPU juga ditingkatkan dengan LPDDR5X.- Arsitektur: Stasiun DGX baru mengintegrasikan CPU Grace dengan GPU Ultra Blackwell, memberikan arsitektur yang lebih kohesif dan efisien untuk beban kerja AI dibandingkan dengan model sebelumnya.
- Skalabilitas: Stasiun DGX baru ini dirancang untuk mendukung beban kerja AI yang lebih luas dengan kapasitas memori yang lebih tinggi dan interkoneksi yang lebih cepat seperti NVLink-C2C, yang menawarkan tujuh kali bandwidth PCIe Gen 5 [5] [8].
Kutipan:
[1] https://www.reddit.com/r/localllama/comments/1jedy17/nvidia_digits_specs_released_and_renamed_to_dgx/
[2] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[3] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-ai-supercomputer
[4] https://www.youtube.com/watch?v=Krbh0von-2a
[5] https://www.notebookcheck.net/nvidia-uveils-dgx-station-desktop-ai-supercomputer-with-72-core-cpu-andwell-ultra-gpu.981669.0.html
[6] https://docs.nvidia.com/dgx/dgxa100-user-guide/introduction-to-dgxa100.html
[7] https://www.techpowerup.com/forums/threads/nvidia-announces-dgx-park-and-dgx-station-personal-ai-computers.334300/
[8] https://www.nvidia.com/en-us/products/workstations/dgx-station/
[9] https://xenon.com.au/product/nvidia-dgx-station/
[10] https://mcomputers.cz/en/products-services/nvidia/dgx-systems/nvidia-dgx-station-a100/