Ja, NVIDIA DGX -gnisten kan bruges til både lokal AI -udvikling og cloud -implementering. Sådan understøtter det disse muligheder:
Lokal AI -udvikling
DGX -gnisten er designet som en kompakt AI -supercomputer, drevet af NVIDIA GB10 Grace Blackwell Superchip. Denne SuperChip inkluderer en kraftfuld NVIDIA Blackwell GPU med femte generation af tensorkerner og FP4-support, der leverer op til 1.000 billioner operationer pr. Sekund af AI-beregningen. Dette gør det ideelt til finjustering og inferens med de nyeste AI-ræsonnementsmodeller, såsom NVIDIA COSMOS Reason World Foundation Model og NVIDIA GR00T N1 Robot Foundation Model [1] [2] [4].
GB10 SuperChip bruger NVIDIA NVLINK-C2C-sammenkoblingsteknologi til at tilvejebringe en CPU+GPU-koherent hukommelsesmodel, der tilbyder 5x båndbredden af femte generations PCIe. Dette forbedrer ydelsen for hukommelsesintensive AI-udviklerens arbejdsbelastning, der tillader forskere, dataforskere, robotikudviklere og studerende at prototype og forfine store AI-modeller direkte på deres desktops [1] [3] [7].
Cloud -implementering
NVIDIAs AI-platform med fuld stack er en nøglefunktion i DGX-gnisten, hvilket gør det muligt for brugere problemfrit at flytte deres AI-modeller fra deres desktops til NVIDIA DGX Cloud eller enhver anden accelereret sky- eller datacenterinfrastruktur. Denne proces kræver næsten ingen kodeændringer, hvilket gør det lettere at prototype, finjustere og iterere på arbejdsgange på tværs af forskellige miljøer [1] [2] [7].
Denne fleksibilitet giver udviklere mulighed for at udnytte kraften i cloud computing til større skala AI-arbejdsbelastninger, mens de opretholder bekvemmeligheden ved lokal udvikling. Uanset om det kører modeller lokalt til indledende udvikling eller implementerer dem til skyen til behandling i større skala, giver DGX Spark en strømlinet arbejdsgang, der understøtter både lokal og skybaseret AI-udvikling og implementering [3] [4] [8].
Citater:
)
[2] https://www.nvidia.com/en-us/products/workstations/dgx-spark/
[3] https://www.ainvest.com/news/nvidia-unveils-dgx-spark-dgx-station-revolutionizing-personal-i-computing-2503
)
)
)
)
[8] https://itbrief.ca/story/nvidia-unveils-dgx-spark-dgx-station-i-desktops
[9] https://www.weka.io/wp-content/uploads/2023/04/weka-nvidia-dgx-a100-systems.pdf
[10] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-specialized-desktop-line-for-i-work
[11] https://www.theverge.com/news/631957/nvidia-dgx-spark-station-grace-blackwell-i-supercomputere-gtc