NVIDIA DGX stacija A100 ir paredzēta, lai efektīvi apstrādātu vairākus lietotājus un attālinātu piekļuvi, padarot to par ideālu risinājumu datu zinātnes komandām un organizācijām, kurām nepieciešami centralizēti AI resursi. Lūk, kā tas pārvalda šīs iespējas:
apstrādājot vairākus lietotājus
- Daudzinstance GPU (MIG): DGX stacija A100 atbalsta MIG, kas ļauj sadalīt līdz 28 atsevišķām GPU ierīcēm atsevišķiem lietotājiem vai darbiem. Tas nozīmē, ka vairākiem lietotājiem vienlaikus var koplietot to pašu GPU, neietekmējot sistēmas veiktspēju. MIG ļauj katram GPU gadījumam iegūt savu atmiņu, kešatmiņu un straumēšanu daudzprocesoru, nodrošinot efektīvu resursu izmantošanu [1] [2].
- Paralēla darba slodze: sistēma spēj paralēli vadīt apmācību, secinājumus un analītisko darba slodzi. Tas ļauj vairākiem lietotājiem vienlaikus strādāt pie dažādiem projektiem, pilnībā izmantojot četrus savstarpēji savienotos NVIDIA A100 GPU potenciālu [1] [4].
- Resursu apmaiņa: MIG atvieglo resursu apmaiņu starp vairākiem lietotājiem, piemēram, studentiem vai datu zinātnes komandu locekļiem. Šī funkcija ir īpaši noderīga, lai novērtētu vairāku secinājumu darbus vai izmantotu Jupyter piezīmjdatorus modeļa izpētei [2].
Attālā piekļuve un pārvaldība
- Tālvadības pārvaldība: DGX stacija A100 piedāvā stabilas attālās pārvaldības iespējas. Lietotāji var pārvaldīt sistēmu no attāluma, izmantojot tīmekļa saskarni, kas nodrošina detalizētus sistēmas žurnālus, sensoru rādījumus un veiktspējas uzraudzību. Tas ietver GPU, atmiņas DIMM, CPU un citu komponentu temperatūras uzraudzību [2].
- IPMI un KVM: sistēma atbalsta IPMI (inteliģenta platformas pārvaldības interfeiss) automatizētai uzraudzībai un pārvaldībai. Turklāt tas piedāvā KVM (tastatūru, video, peles) funkcionalitāti, ļaujot lietotājiem attālināti piekļūt sistēmas displejam un pārvaldīt to tā, it kā viņi būtu fiziski klāt. Tas ietver virtuālās uzglabāšanas iespējas sistēmas attālās sāknēšanas vai pārinstalēšanai [2].
- Droši protokoli: var iestatīt drošus protokolus, piemēram, SSH, lai iespējotu attālinātu piekļuvi DGX stacijai no dažādām mašīnām. Tas lietotājiem ļauj no jebkuras vietas pārvaldīt savu AI darba slodzi [5].
-NVIDIA sistēmas pārvaldības interfeiss: lietotāji var izmantot NVIDIA sistēmas pārvaldības interfeisa (NVIDIA-SMI) komandrindas rīku, lai uzraudzītu un pārvaldītu GPU veiktspēju, ieskaitot lietošanas procentus un temperatūras vērtības [5].
Kopumā DGX stacija A100 nodrošina jaudīgu, birojam draudzīgu risinājumu vairākiem lietotājiem un attālinātai piekļuvei, padarot to piemērotu dažādām vidēm, sākot no korporatīvajiem birojiem līdz pētniecības iestādēm.
Atsauces:
[1] https://www.compecta.com/dgxstation-a100.html
[2] https://www.robusthpc.com/wp-content/uploads/2021/11/nvidia-dgx-station-a100-system-architecture-white-paper_publeS.pdf
[3] https://docs.nvidia.com/dgx/pdf/dgx-station-user-guide.pdf
[4] https://www.e4company.com/wp-content/uploads/dgx-family-print-dgx-station-a100-dataSheet-us-partner.pdf
[5] https://www.fibermall.com/blog/nvidia-dgx-systems.htm
[6.]
[7] https://www.techpowerup.com/forums/threads/nvidia-announces-dgx-park-and-dgx-station-personal-ai-computers.334300/
[8] https://www.serversimply.com/blog/how-to-connect-to-nvidia-dgx-cloud-dvantage-configurations-and-Setup-guide