„NVIDIA DGX“ stotyje daugiafunkcinė GPU (MIG) technologija siūlo keletą reikšmingų privalumų, ypač tose aplinkose, kuriose keli vartotojai ar komandos turi efektyviai dalytis GPU ištekliais.
1. Patobulintas išteklių panaudojimas: MIG leidžia vienam GPU padalyti į keletą egzempliorių, kurių kiekvienas turi specialius išteklius, tokius kaip atmintis, talpykla ir skaičiavimo branduoliai. Tai maksimaliai padidina GPU panaudojimą, suteikdamas galimybę keliems darbo krūviams vienu metu veikti viename GPU, o tai ypač naudinga užduotims, kurios nevisiškai prisotina GPU skaičiavimo talpą [1] [3] [9].
2. Garantuota paslaugų kokybė (QoS): Kiekvienas MIG egzempliorius veikia savarankiškai, užtikrinant nuspėjamą pralaidumą ir delsą. Tai reiškia, kad net jei tame pačiame GPU vykdomos kelios užduotys, kiekviena užduotis turės nuoseklų našumą be kitų užduočių trukdžių, o tai yra labai svarbi programoms, kurioms reikia mažo delsos ir didelio patikimumo [3] [9].
3. Patobulintas bendradarbiavimas ir lankstumas: MIG palaiko kelias diegimo parinktis, įskaitant plikos metalo, konteinerius ir virtualias mašinas. Šis lankstumas leidžia komandoms efektyviai dalytis GPU ištekliais, todėl tai yra ideali bendradarbiavimo aplinkai, tokioms kaip tyrimų laboratorijos ir duomenų mokslo komandos [1] [3] [7].
4. Ekonominis efektyvumas: leisdamas keliems vartotojams bendrinti vieną GPU, MIG gali sumažinti papildomos aparatinės įrangos poreikį, todėl tai yra ekonomiškai efektyvus sprendimas, palyginti su kiekvieno vartotojo atskirų GPU pirkimu arba išsinuomojant debesies GPU egzempliorius [1] [4].
5. Padidėjęs išvadų darbo krūvio pralaidumas: MIG gali žymiai padidinti išvadų pralaidumą, leisdamas kelis mažus modelius paleisti lygiagrečiai viename GPU. Tai ypač naudinga programoms, apimančioms mažus, mažai latencijos modelius, kuriems nereikia viso GPU veikimo [2] [7].
6. Saugumas ir izoliacija: MIG suteikia griežtą izoliaciją tarp egzempliorių, užtikrinant, kad kiekvieno vartotojo darbo krūvis būtų saugiai veikiantis, nedarant įtakos kitiems vartotojams. Tai ypač svarbu daugiapakopėje aplinkoje, kur duomenų saugumas yra svarbiausias [3] [9].
7. Mastelio ir universalumas: „DGX Station A100“, palaikant MIG, gali būti sukonfigūruota vienu metu tvarkyti įvairius darbo krūvius. Pvz., Kai kurie GPU gali būti skirtos AI mokymui, o kiti-naudojami didelio našumo skaičiavimo ar išvadų užduotims, kurios kartu vykdomos kartu be našumo skilimo [2] [7].
Apskritai, MIG DGX stotyje A100 padidina GPU išteklių paskirstymo produktyvumą, efektyvumą ir lankstumą, todėl tai yra idealus sprendimas aplinkai, kuriai reikalingas aukštos kokybės skaičiavimas ir bendradarbiavimo darbo vietos.
Citatos:
[1] https://www.toolify.ai/ai-news/experience-the-power-of-nvidia-dgx-station-a100-971252
[2] https://www.skyblue.de/uploads/datasheets/nvidia_twp_dgx_a100_system_architcture.pdf
[3] https://docs.nvidia.com/datacenter/tesla/mig-user-guide/
[4] https://www.globenewswire.com/news-release/2020/11/16/2127366/0/en/nvidia-dgx-stiation-a100-ffers-researchers-ai-data-center--a-a-a-a-ax.html
[5] http://nvidianews.nvidia.com/news/nvidia-dgx-tation-a100-ffers-researchers-ai-data-center-in-a-ax
[6] https://www.megware.com/fileadmin/user_upload/landingpage%20nvidia/nvidia-ampere-architcture-whitePaper.pdf
[7] https://www.robusthpc.com/wp-content/uploads/2021/11/nvidia-dgx-tation-a100-system-architcture-white-paper_publed.pdf
[8] https://www.fujitsu.com/au/products/computing/servers/supercomputer/gpu-computing/nvidia-dgx-systems/dgx-stiation/
[9] https://www.nvidia.com/en-us/technologies/multi-instance-gpu/
[10] https://aws.amazon.com/blogs/containers/maximizing-gpu-utilization-with-nvidias-multi-instance-gpu-mig-on-mazon-sks-running-more-pods-lpu-for-pherencanced-performance/