MIG (daugiafunkcinis GPU) technologija žymiai padidina NVIDIA DGX stoties A100 mastelį, leisdama atskirti GPU padalijimą į kelis, visiškai izoliuotus egzempliorius. Ši funkcija leidžia „DGX“ stočiai vienu metu palaikyti kelis vartotojus ar komandas, todėl ji yra labai tinkama bendradarbiavimo aplinkai ar bendroms darbo vietoms.
raktų patobulinimai
1. Išteklių padalijimas: MIG leidžia atskirti vieną GPU į net septynis nepriklausomus egzempliorius, kurių kiekvienas turi savo specialią atmintį, talpyklą ir srautiniu daugiaprocesoriumi. Tai užtikrina, kad kiekviena instancija veiktų savarankiškai nekonkuruodama dėl išteklių, taip padidindamas GPU efektyvumą ir panaudojimą [4] [8].
2. Garantuota paslaugų kokybė (QoS): pateikdamas atskiras išteklius kiekvienam instancijai, MIG užtikrina nuspėjamą našumą ir garantuotą QoS. Tai ypač naudinga atliekant kelis darbus vienu metu, pavyzdžiui, AI išvadų užklausos, nedarant įtakos sistemos veikimui [8] [9].
3. Kelių vartotojų palaikymas: „DGX Station A100“ gali pateikti iki 28 atskirų GPU egzempliorių, kai visi keturi GPU yra įjungti naudojant MIG. Tai leidžia keliems vartotojams patekti ir naudoti sistemą vienu metu, todėl ji yra ideali duomenų mokslo komandoms ir švietimo įstaigoms [2] [7].
4. Diegimo lankstumas: MIG palaiko įvairias diegimo galimybes, įskaitant CUDA programų paleidimą pliko metale ar konteineriuose. Šį lankstumą dar labiau sustiprina „NVIDIA“ konteinerių įrankių rinkinys, kuris leidžia vartotojams paleisti CUDA pagreitintus konteinerius GPU egzemplioriuose [4] [9].
5. Mastelio keitimas ir ekonominis efektyvumas: įgalindamas kelis vartotojus efektyviai dalytis tais pačiais GPU ištekliais, MIG padeda sumažinti individualių GPU sąrankų ar debesų nuomos poreikį. Tai daro DGX stotį ekonomiškai efektyviu sprendimu organizacijoms, ypač palyginti su debesų GPU išteklių nuomojimu laikui bėgant [1] [5].
Naudokite atvejus
- PG mokymas ir išvados: MIG leidžia sukonfigūruoti skirtingus GPU DGX stotyje, kad būtų galima sukonfigūruoti skirtingiems darbo krūviams, tokiems kaip AI mokymas, HPC ar duomenų analizė. Šis lankstumas yra labai svarbus organizacijoms, kurioms reikia efektyviai valdyti įvairius AI darbo krūvius [4] [10].
- Švietimo ir tyrimų aplinka: Gebėjimas paremti kelis vartotojus tuo pačiu metu daro DGX stotį ypač naudinga švietimo įstaigoms ir tyrimų laboratorijoms, kur bendri ištekliai yra įprasti [1] [4].
Apibendrinant galima pasakyti, kad MIG technologija padidina DGX stoties mastelį, suteikdama lanksčią, kelių vartotojų aplinką, kuri maksimaliai padidina GPU panaudojimą ir užtikrina nuspėjamą našumą. Tai daro DGX stotį idealia platforma bendradarbiaujantiems AI tyrimams ir plėtrai įvairiose pramonės šakose.
Citatos:
[1] https://www.toolify.ai/ai-news/experience-the-power-of-nvidia-dgx-station-a100-971252
[2] https://www.globenewswire.com/news-release/2020/11/16/2127366/0/en/nvidia-dgx-stiation-a100-ffers-researchers-ai-data-center--a-a-a-ax.html
[3] https://images.nvidia.com/aem-dam/en-zz/solutions/data-center/nvidia-ampere-architecture-witpaper.pdf
[4] https://www.robusthpc.com/wp-content/uploads/2021/11/nvidia-dgx-tation-a100-system-architcture-white-paper_publed.pdf
[5] https://www.eweek.com/big-data-and-analytics/how-nvidia-a100-stiation-brings-data-center-heft-to-to-workgroups/
[6] https://docs.nvidia.com/datacenter/tesla/mig-user-guide/
[7] http://nvidianews.nvidia.com/news/nvidia-dgx-tation-a100-ffers-researchers-ai-data-center-in-a-ax
[8] https://www.nvidia.com/en-us/technologies/multi-instance-gpu/
[9] https://www.skyblue.de/uploads/datasheets/nvidia_twp_dgx_a100_system_architcture.pdf
[10] https://www.compecta.com/dgxStation-a100.html
[11] https://www.e4company.com/wp-content/uploads/dgx-family-print-dgx-stiation-a100-datasheet-us-partner.pdf