Home Arrow Icon Knowledge base Arrow Icon Global Arrow Icon Kan DGX -gnista användas för både lokal AI -utveckling och molndistribution


Kan DGX -gnista användas för både lokal AI -utveckling och molndistribution


Ja, NVIDIA DGX -gnistan kan användas för både lokal AI -utveckling och molndistribution. Så här stöder det dessa funktioner:

Lokal AI -utveckling

DGX -gnistan är designad som en kompakt AI -superdator, drivs av NVIDIA GB10 Grace Blackwell Superchip. Detta superchip inkluderar en kraftfull Nvidia Blackwell GPU med femte generationens tensorkärnor och FP4-stöd, vilket ger upp till 1 000 biljoner verksamhet per sekund av AI Compute. Detta gör det idealiskt för finjustering och slutsatser med de senaste AI-resonemangsmodellerna, till exempel Nvidia Cosmos Reason World Foundation Model och NVIDIA GR00T N1 Robot Foundation Model [1] [2] [4].

GB10 SuperChip använder NVIDIA NVLINK-C2C Interconnect-teknik för att tillhandahålla en CPU+GPU-koherent minnesmodell, som erbjuder 5x bandbredden för femte generationens PCIe. Detta förbättrar prestandan för minnesintensiv AI-utvecklararbetsbelastning, vilket gör det möjligt för forskare, datavetare, robotutvecklare och studenter att prototypa och förfina stora AI-modeller direkt på sina stationära datorer [1] [3] [7].

molndistribution

NVIDIA: s fullstack AI-plattform är en viktig funktion i DGX-gnistan, vilket gör det möjligt för användare att sömlöst flytta sina AI-modeller från sina stationära datorer till NVIDIA DGX-moln eller något annat accelererat moln- eller datacenterinfrastruktur. Denna process kräver praktiskt taget inga kodändringar, vilket gör det enklare att prototypa, finjustera och iterera på arbetsflöden över olika miljöer [1] [2] [7].

Denna flexibilitet gör det möjligt för utvecklare att utnyttja kraften i molnberäkning för AI-arbetsbelastning med större skala samtidigt som de håller bekvämligheten med lokal utveckling. Oavsett om du kör modeller lokalt för initial utveckling eller distribuera dem till molnet för större bearbetning, ger DGX Spark ett strömlinjeformat arbetsflöde som stöder både lokal och molnbaserad AI-utveckling och distribution [3] [4] [8].

Citeringar:
[1] https://nvidianews.nvidia.com/news/nvidia-announces-dgx-spark-and-dgx-station-personal-ai-computers
[2] https://www.nvidia.com/en-us/products/workstations/dgx-spark/
]
]
]
]
[7] https://www.engineering.com/nvidia- unveils-dgx-personal-ai-supercomputers-by-grace-backwell/
[8] https://itbrief.ca/story/nvidia- unveils-dgx-spark-dgx-station-ai-desktops
[9] https://www.weka.io/wp-content/uploads/2023/04/weka-nvidia-dgx-a100-systems.pdf
[10] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-specialiserad-Desktop-line-for-ai-work
[11] https://www.theverge.com/news/631957/nvidia-dgx-spark-station-grace-backwell-ai-supercomputers-gtc