NVIDIA DGX stacija un iepriekšējie DGX modeļi, piemēram, DGX stacija A100 un vecāka DGX stacija ar Tesla V100 GPU, uzrāda būtiskas atšķirības atmiņas joslas platumā un vispārējā arhitektūrā.
DGX stacija (jauns modelis)
Jaunā DGX stacija ir aprīkota ar GB300 Grace Blackwell Ultra Desktop Superchip, kurā ietilpst 72 kodolu labvēlības CPU un Blackwell Ultra GPU. Šī sistēma ir līdz 288 GB HBM3E GPU atmiņas un līdz 496 GB LPDDR5X CPU atmiņas. GPU atmiņas atmiņas joslas platums nav skaidri noteikts GB/S izteiksmē, bet sistēma atbalsta līdz 8 TB/s atmiņas joslas platuma, kas ir ievērojami augstāks nekā iepriekšējie modeļi. CPU atmiņas joslas platums ir līdz 396 GB/s ** [5] [8].DGX stacija A100
DGX stacijā A100 tiek izmantoti četri NVIDIA A100 SXM4 GPU, katra ar 40 GB vai 80 GB HBM2 atmiņas. Kaut arī šī modeļa īpašais atmiņas joslas platums nav detalizēts, A100 GPU ir pazīstami ar savu augsto atmiņas joslas platumu, parasti aptuveni 1555 GB/s par GPU HBM2 atmiņai, kas kopumā līdz aptuveni 6220 GB/s visai sistēmai [10].DGX stacija ar Tesla V100 GPU
Vecākam DGX stacijas modelim ar četriem Tesla V100 GPU ir 16 GB HBM2 atmiņas uz GPU, kopā 64 GB GPU atmiņas. Katra V100 GPU atmiņas joslas platums ir 900 GB/s, kā rezultātā kopējais GPU atmiņas joslas platums ir 3,6 TB/s. Turklāt sistēmā ietilpst 256 GB DDR4 sistēmas atmiņas, taču tās joslas platums nav tik augsts kā GPU atmiņa [2] [9].Galvenās atšķirības
- Atmiņas tips un joslas platums: jaunā DGX stacija GPU atmiņai izmanto HBM3E, piedāvājot ievērojami lielāku joslas platumu, salīdzinot ar HBM2, ko izmanto vecākiem modeļiem. CPU atmiņas joslas platums tiek uzlabots arī ar LPDDR5X.- Arhitektūra: Jaunā DGX stacija integrē Grace CPU ar Blackwell Ultra GPU, nodrošinot saskaņotāku un efektīvāku AI darba slodzes arhitektūru salīdzinājumā ar iepriekšējiem modeļiem.
- Mērogojamība: jaunā DGX stacija ir paredzēta, lai atbalstītu plašākas AI darba slodzes ar augstāku atmiņas ietilpību un ātrākām savstarpējām savienojumiem, piemēram, NVLink-C2C, kas septiņas reizes piedāvā PCIe Gen 5 joslas platumu [5] [8].
Atsauces:
[1] https://www.reddit.com/r/localllama/comments/1jedy17/nvidia_digits_specs_releed_and_renamed_to_dgx/
[2] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[3] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-ai-supercomputers
[4] https://www.youtube.com/watch?v=krbh0von-2a
.
[6] https://docs.nvidia.com/dgx/dgxa100-user-guide/introduction-to-dgxa100.html
[7] https://www.techpowerup.com/forums/threads/nvidia-announces-dgx-park-and-dgx-station-personal-ai-computers.334300/
[8] https://www.nvidia.com/en-us/products/workstations/dgx-station/
[9] https://xenon.com.au/product/nvidia-dgx-station/
[10] https://mcomputers.cz/en/products-and-services/nvidia/dgx-systems/nvidia-dgx-station-a100/