Home Arrow Icon Knowledge base Arrow Icon Global Arrow Icon Kokie yra pagrindiniai atminties pralaidumo skirtumai tarp DGX stoties ir ankstesnių DGX modelių


Kokie yra pagrindiniai atminties pralaidumo skirtumai tarp DGX stoties ir ankstesnių DGX modelių


„NVIDIA DGX“ stotis ir ankstesni DGX modeliai, tokie kaip DGX stotis A100 ir senesnė DGX stotis su „Tesla V100 GPU“, pasižymi reikšmingais atminties pralaidumo ir bendros architektūros skirtumais.

DGX stotis (naujas modelis)

Naujojoje „DGX“ stotyje yra „GB300 Grace Blackwell Ultra Desktop Superchip“, į kurią įeina 72 branduolių „Grace“ procesorius ir „Blackwell Ultra GPU“. Ši sistema turi iki 288 GB HBM3E GPU atminties ir iki 496 GB LPDDR5X CPU atminties. GPU atminties atminties pralaidumas nėra aiškiai nurodytas GB/S atžvilgiu, tačiau sistema palaiko iki 8 TB/s atminties pralaidumo, kuris yra žymiai didesnis nei ankstesni modeliai. CPU atminties pralaidumas yra iki 396 GB/S ** [5] [8].

DGX stotis A100

„DGX Station A100“ naudoja keturis NVIDIA A100 SXM4 GPU, kiekviename iš jų yra 40 GB arba 80 GB HBM2 atminties. Nors konkretus šio modelio atminties pralaidumas nėra detalus, A100 GPU yra žinomas dėl savo didelio atminties pralaidumo, paprastai apie 1 555 GB/s vienam GPU HBM2 atminčiai, kuri visai sistemai sudarytų maždaug 6 220 GB/s [10].

DGX stotis su „Tesla V100 GPUS“

Senesnis DGX stoties modelis su keturiais „Tesla V100 GPUS“ turi 16 GB HBM2 atminties viename GPU, iš viso 64 GB GPU atminties. Kiekvieno V100 GPU atminties pralaidumas yra 900 GB/s, todėl bendras GPU atminties pralaidumas yra 3,6 TB/s. Be to, sistemoje yra 256 GB DDR4 sistemos atminties, tačiau jos pralaidumas nėra toks didelis kaip GPU atmintis [2] [9].

Pagrindiniai skirtumai

- Atminties tipas ir pralaidumas: Naujojoje DGX stotyje GPU atminčiai naudoja HBM3E, siūlanti žymiai didesnį pralaidumą, palyginti su HBM2, naudojamu senesniuose modeliuose. CPU atminties pralaidumas taip pat patobulinamas naudojant LPDDR5X.
- Architektūra: Naujoji DGX stotis integruoja „Grace CPU“ su „Blackwell Ultra GPU“, užtikrinančia darnesnę ir efektyvesnę AI darbo krūvių architektūrą, palyginti su ankstesniais modeliais.
- Mastelio keitimas: Naujoji DGX stotis yra skirta palaikyti didesnius AI darbo krūvius, turinčius didesnę atminties talpą ir greitesnius sujungimus, tokius kaip „NVLINK-C2C“, kuris siūlo septynis kartus didesnį PCIE Gen 5 pralaidumą [5] [8].

Citatos:
]
[2] https://images.nvidia.com/content/newsletters/email/pdf/dgx-tation-wp.pdf
[3] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-ai-superkompiuteriai
[4] https://www.youtube.com/watch?v=KRBH0VON-2A
[5] https://www.notebookcheck.net/nvidia-unveils-dgx-stiation-desktop-ai-sppercomputer-with-72-core-cpu-and-blackwell-ultra gpu.981669.0.html
[6] https://docs.nvidia.com/dgx/dgxa100-user-guide/introduction-to-dgxa100.html
[7] https://www.techpowerup.com/forums/threads/nvidia-announces-dgx-park-and-dgx-stiation-personal-ai-computers.334300/
[8] https://www.nvidia.com/en-us/products/workstations/dgx-tation/
[9] https://xenon.com.au/product/nvidia-dgx-tation/
[10] https://mcomputers.cz/en/products-and-services/nvidia/dgx-systems/nvidia-dgx-station-a100/