„NVIDIA DGX Spark“ yra kompaktiška AI darbo vieta, kurioje yra „Nvidia GB10 Grace Blackwell Superchip“, kurioje yra „Blackwell GPU“ su penktosios kartos tensorų šerdimis ir FP4 palaikymu. Jis siūlo 273 GB/s atminties pralaidumą, kuris yra palyginti kuklus, palyginti su kai kuriomis kitomis aukščiausios klasės AI darbo vietomis ir GPU [5] [7] [9].
Palyginimui, „NVIDIA DGX“ stotis, dar viena AI darbo vieta iš NVIDIA, suteikia žymiai didesnį atminties pralaidumą. „DGX“ stotyje yra „GB300 Grace Blackwell Ultra Desktop Superchip“, kuriame yra „Blackwell Ultra GPU“ ir serverio klasės „Grace-72 Core Neoverse V2 CPU“. GPU turi prieigą prie 288 GB HBM3E atminties, kurio pralaidumas yra 8 TB/s, o CPU pasiekia 496 GB LPDDR5X atminties, kurio pralaidumas yra iki 396 GB/S ** [5].
Kitos į AI orientuotos sistemos, tokios kaip NVIDIA A100 GPU, siūlo dar didesnį atminties pralaidumą. Pavyzdžiui, A100 80 GB modelis suteikia 2 TB/s atminties pralaidumą, kuris yra naudingas didelio masto AI programoms, reikalaujančioms greito duomenų apdorojimo [6].
Platesnėje rinkoje tokios sistemos kaip „RTX Pro 5000“ siūlo įspūdingą 1,3 TB/s atminties pralaidumą su 48 GB GDDR7 atminties, todėl jie yra labai konkurencingi AI darbo krūviams [7]. Tai pabrėžia, kad nors „DGX“ kibirkštis yra skirta kompaktiškam, aukšto našumo AI skaičiavimui, jo atminties pralaidumas nėra toks didelis kaip kai kurios kitos specializuotos AI darbo vietos ir GPU.
Apskritai, „DGX Spark“ atminties pralaidumas yra optimizuotas pagal kompaktišką formos faktorių ir specifines AI kūrimo užduotis, tačiau jis gali nesutapti su didesniu pralaidumu, esančiu galingesnėse, didesnėse sistemose, skirtoms duomenų centro lygio našumui.
Citatos:
[1] https://nvidianews.nvidia.com/news/nvidia-announces-dgx-park-and-dgx-station-personal-ai-computers
[2] https://www.pcmag.com/news/what-is-nvidias-dgx-tistion-a-new specifialized-desktop-line-for-ai-work
[3] https://www.micron.com/content/dam/micron/global/public/documents/products/technical-marketing-brief/ddr5-ai-inference-workload-performance-tech-brief.pdf
[4] https://www.ainvest.com/news/nvidia-unveils-dgx-park-dgx-stiation-revoliucizing-personal-ai-computing-2503/
[5] https://beebom.com/nvidia-project-pigits-rhranded-to-dgx-park-dgx-stiation-announced/
[6] https://datacrunch.io/blog/nvidia-a100-40gb-vs-80-gb
[7] https://www.reddit.com/r/localllama/comments/1jef1dd/dgx_spark_previous_digits_has_273gbs_memory/
[8] https://phoenixgamedevelopment.com/blog/ai-memory-bandwidth-comparions-for-selted-ddr4-cpus/
[9] https://www.youtube.com/watch?v=csihxri1jt4
[10] https://www.youtube.com/watch?v=KRBH0VON-2A