NVIDIA DGX -gnisten, tidligere kendt som Project -cifre, er designet til at understøtte en lang række AI -modeller, især dem, der er involveret i generative og fysiske AI. Det drives af NVIDIA GB10 Grace Blackwell Superchip, der inkluderer en kraftig NVIDIA Blackwell GPU med femte generation af tensorkerner og FP4-support. Denne konfiguration giver DGX-gnisten mulighed for at opnå op til 1.000 billioner operationer pr. Sekund (TOPS) til AI-behandling, hvilket gør den velegnet til finjustering og inferensopgaver med avancerede AI-ræsonnementsmodeller.
understøttede AI -modeller
- NVIDIA COSMOS Årsag World Foundation Model: Dette er en grundlæggende model, der bruges til forskellige AI -ræsonnementsopgaver. DGX Sparks kapaciteter gør det til en ideel platform til at arbejde med så store modeller.
- NVIDIA GR00T N1 Robot Foundation Model: Designet til robotikapplikationer drager denne model fordel af de højtydende computerkapaciteter i DGX-gnisten, hvilket gør det muligt for udviklere at forfine og implementere AI-modeller til robotik effektivt.
-Store neurale netværk: DGX-gnisten kan håndtere AI-modeller op til 200 milliarder parametre til inferens og finjusteringsmodeller op til 70 milliarder parametre. Dette gør det velegnet til træning og raffinering af komplekse neurale netværk, der bruges i applikationer som naturlig sprogbehandling, computervision og mere.
Nøglefunktioner til AI -træning
-Computing med høj ydeevne: GB10 SuperChip's evne til at levere høje toppe ydelse sikrer, at AI-modeller kan trænes og finjusteres hurtigt, selv for store og komplekse modeller.
- Unified Memory: Med 128 GB Unified LPDDR5X-hukommelse giver DGX Spark rigelige ressourcer til håndtering af hukommelsesintensive AI-arbejdsbelastning.
-Netværksfunktioner: Systemet understøtter højhastighedsnetværk via ConnectX-7, hvilket gør det muligt for forbindelsen af flere DGX-gnistsystemer at arbejde på ekstremt store AI-modeller i samarbejde.
- Strømeffektivitet: Betjening på kun 170W tilbyder DGX Spark en effekt-effektiv løsning til AI-udvikling, hvilket gør den velegnet til forskellige miljøer.
Generelt er DGX-gnisten designet til at styrke udviklere, forskere og datavidenskabsmænd ved at tilvejebringe en kompakt, men alligevel kraftig platform til prototype, finjustering og implementere AI-modeller lokalt eller i skyen med minimale kodejusteringer [1] [3] [5].
Citater:
)
)
[3] https://www.theverge.com/news/631957/nvidia-dgx-spark-station-grace-blackwell-i-supercomputers-gtc
[4] https://docs.netapp.com/us-en/netapp-solutions/ai/ai-dgx-superpod.html
)
[6] https://www.reddit.com/r/localllama/comments/1jee2b2/nvidia_dgx_spark_project_digits_specs_are_out/
[7] https://github.com/nvidia/deeplearningexamples/blob/master/pytorch/recommendation/dlrm/readme.md
[8] https://www.nvidia.com/en-us/products/workstations/dgx-station/
[9] https://www.arista.com/assets/data/pdf/whitepapers/nvidia-wp-saling-dl-with-matrix-dgx-1-w03wp201904.pdf
)
[11] https://www.nvidia.com/en-us/products/workstations/dgx-spark/
!
[13] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_announces_dgx_spark_and_dgx_station/