Postaja NVIDIA DGX in prejšnji modeli DGX, kot sta DGX Station A100 in starejša postaja DGX s Tesla V100 GPU, kažeta pomembne razlike v pasovni širini pomnilnika in celotni arhitekturi.
DGX postaja (nov model)
Nova postaja DGX je opremljena z GB300 Grace Blackwell Ultra Desktop Superchip, ki vključuje 72-jedrni Grace CPU in Blackwell Ultra GPU. Ta sistem ima do 288 GB pomnilnika HBM3E GPU in do 496 GB pomnilnika LPDDR5X CPU. Pasovna širina pomnilnika za pomnilnik GPU ni izrecno navedena v smislu GB/s, vendar sistem podpira do 8 TB/s pasovne širine pomnilnika, kar je bistveno večje od prejšnjih modelov. Pasovna širina pomnilnika CPU je do 396 GB/S ** [5] [8].DGX postaja A100
Postaja DGX A100 uporablja štiri NVIDIA A100 SXM4 GPU, vsaka s 40 GB ali 80 GB pomnilnika HBM2. Medtem ko specifična pasovna širina pomnilnika za ta model ni podrobna, so A100 GPU -ji znani po svoji visoki pasovni širini pomnilnika, običajno približno 1.555 GB/s na GPU za pomnilnik HBM2, ki bi znašala približno 6.220 GB/s za celoten sistem [10].DGX postaja s Tesla V100 GPUS
Starejši model postaje DGX s štirimi Tesla V100 GPU ima 16 GB pomnilnika HBM2 na GPU, skupaj 64 GB pomnilnika GPU. Pomnilniška pasovna širina za vsak V100 GPU je 900 GB/s, kar ima za posledico skupno pasovno širino GPU pomnilnika 3,6 TB/s. Poleg tega sistem vključuje 256 GB sistemskega pomnilnika DDR4, vendar njegova pasovna širina ni tako visoka kot pomnilnik GPU [2] [9].Ključne razlike
- Vrsta pomnilnika in pasovna širina: Nova postaja DGX uporablja HBM3E za pomnilnik GPU, ki ponuja bistveno večjo pasovno širino v primerjavi s HBM2, ki se uporablja pri starejših modelih. Pasovna širina pomnilnika CPU se izboljša tudi z LPDDR5X.- Arhitektura: Nova postaja DGX integrira CPU Grace z Blackwell Ultra GPU, ki zagotavlja bolj kohezivno in učinkovito arhitekturo za delovne obremenitve AI v primerjavi s prejšnjimi modeli.
- Scality: Nova postaja DGX je zasnovana tako, da podpira obsežnejše delovne obremenitve AI z višjo zmogljivostjo pomnilnika in hitrejšimi medsebojnimi povezavami, kot je NVLINK-C2C, ki ponuja sedemkratno pasovno širino PCIe Gen 5 [5] [8].
Navedbe:
[1] https://www.reddit.com/r/localllama/comments/1Jedy17/nvidia_digits_specs_releise_and_ramed_to_dgx/
[2] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[3] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-ai-superračunalnik
[4] https://www.youtube.com/watch?v=KRBH0VON-2A
[5] https://www.notebookcheck.net/nvidia-unveils-dgx-station-desktop-ai-supercomputer-with-72-core-cpu-in-blackwell-ultra-gpu.981669.0.html
[6] https://docs.nvidia.com/dgx/dgxa100-user-guide/introduction-to-dgxa100.html
[7] https://www.techpowerup.com/forums/threads/nvidia-announces-dgx-park-and-dgx-station-peral-ai-computers.334300/
[8] https://www.nvidia.com/en-us/products/workstations/dgx-station/
[9] https://xenon.com.au/product/nvidia-dgx-station/
[10] https://mcomputers.cz/sl/products-and-services/nvidia/dgx-systems/nvidia-dgx-station-a100/