NVIDIA DGX dzirkstele ir kompakta AI darbstacija, kurā attēlota NVIDIA GB10 Grace Blackwell Superchip, kurā ietilpst Blackwell GPU ar piektās paaudzes tensora kodoliem un FP4 atbalstu. Tas piedāvā atmiņas joslas platumu 273 GB/s, kas ir salīdzinoši pieticīgs, salīdzinot ar dažām citām augstākās klases AI darbstacijām un GPU [5] [7] [9].
Salīdzinājumam - NVIDIA DGX stacija, vēl viena AI darbstacija no Nvidia, nodrošina ievērojami augstāku atmiņas joslas platumu. DGX stacijā ir GB300 Grace Blackwell Ultra Desktop Superchip, kurā ietilpst Blackwell Ultra GPU un servera klases Grace-72 Core Neoverse V2 CPU. GPU ir pieeja 288 GB HBM3E atmiņas ar joslas platumu 8 TB/s, savukārt CPU piekļūst 496 GB LPDDR5X atmiņas ar joslas platumu līdz 396 GB/s ** [5].
Citas uz AI orientētas sistēmas, piemēram, tādas, kas izmanto NVIDIA A100 GPU, piedāvā vēl augstāku atmiņas joslas platumu. Piemēram, A100 80GB modelis nodrošina 2 TB/s atmiņas joslas platumu, kas ir izdevīgs liela mēroga AI lietojumprogrammām, kurām nepieciešama ātra datu apstrāde [6].
Plašākā tirgū tādas sistēmas kā RTX Pro 5000 piedāvā iespaidīgu atmiņas joslas platumu 1,3 TB/s ar 48 GB GDDR7 atmiņu, padarot tos ļoti konkurētspējīgus AI darba slodzēm [7]. Tas uzsver, ka, lai arī DGX dzirkstele ir paredzēta kompaktai, augstas veiktspējas AI skaitļošanai, tā atmiņas joslas platums nav tik liels kā dažās citās specializētās AI darbstacijās un GPU.
Kopumā DGX Spark atmiņas joslas platums ir optimizēts tā kompakto formas faktoram un specifiskajiem AI izstrādes uzdevumiem, taču tas, iespējams, neatbilst augstākajam joslas platumam, kas pieejams jaudīgāk, lielākās sistēmās, kas paredzētas datu centra līmeņa veiktspējai.
Atsauces:
[1.]
[2] https://www.pcmag.com/news/what-is-nvidias-dgx-station--wew-specialized-desktop-line-for-work
.
.
[5] https://beebom.com/nvidia-project-digits
[6] https://datacrunch.io/blog/nvidia-a100-40gb-vs-80-gb
[7] https://www.reddit.com/r/localllama/comments/1jef1dd/dgx_spark_preatry_digits_has_273gbs_memory/
[8] https://phoenixgamedevelopment.com/blog/ai-memory-bandwidth-comparision-for-selected-ddr4-cpus/
[9] https://www.youtube.com/watch?v=csihxri1jt4
[10] https://www.youtube.com/watch?v=krbh0von-2a