„NVIDIA DGX“ stotis siūlo keletą išlaidų naudos už „pasidaryk pats“ platformos statybą, visų pirma dėl jos integruoto dizaino, optimizuoto našumo ir sumažintų priežiūros poreikių.
1. Sumažintos aparatūros išlaidos: „pasidaryk pats“ AI platformos kūrimui dažnai reikia nusipirkti atskirus komponentus, o tai gali sukelti didesnes išankstines išlaidas, nes reikia kelių GPU, procesorių, atminties ir saugojimo. Priešingai, DGX stotis suteikia išsamią sistemą su visais būtinais komponentais, optimizuotais AI darbo krūviams, o tai gali sumažinti bendrą aparatinės įrangos sąnaudas. Pavyzdžiui, „DGX Station A100“ modelių kaina yra 99 000 USD už 160 g versiją ir 149 000 USD už 320 g versiją, į kurią įeina viskas, ko reikia AI skaičiavimui be papildomų pirkimų [7].
2. Mažesnės operacijos ir priežiūros išlaidos: „pasidaryk pats“ platformoms reikia daug laiko ir išteklių, kad būtų galima nustatyti, suderinti ir techninę priežiūrą. „DGX“ stotis, būdama integruota sistema, sumažina šias išlaidas pateikdama raktų sprendimą, kurį lengviau valdyti ir prižiūrėti. Tai sumažina veiklos išlaidas, susijusias su „pasidaryk pats“ sąrankomis, tokiomis kaip personalo laikas, praleistas aparatinės įrangos priežiūrai ir trikčių šalinimui [3].
3. Greitesnis įgyvendinimas ir sumažėjęs prastovos laikas: DGX stotis gali būti integruota į organizacijos IT ekosistemą daug greičiau nei „pasidaryk pats“ platformos, kurioms dažnai reikia išsamių sąrankų ir bandymų. Šis greitas dislokavimas sumažina prastovą ir leidžia duomenų mokslininkams sutelkti dėmesį į modelio kūrimą, o ne aparatinės įrangos problemas, todėl greitesnis projekto pabaiga ir padidėjęs produktyvumas [3].
4. Patobulintas modelio mokymo efektyvumas: DGX stotis pagreitina modelio mokymo laiką, palyginti su „pasidaryk pats“ sąrankomis. Pavyzdžiui, buvo įrodyta, kad DGX-1 sumažina giluminio mokymosi modelio mokymo laiką vidutiniškai tris dienas, o tai reiškia, kad sutaupoma sąnaudų, atlaisvinant duomenų mokslininkų laiką atlikti daugiau strateginių užduočių [3].
5. Prieiga prie optimizuotos programinės įrangos kamino: „DGX“ stotyje yra optimizuota programinės įrangos kamera, palaikanti populiarias giluminio mokymosi sistemas, kurias reguliariai atnaujina NVIDIA inžinieriai. Tai pašalina vidaus programinės įrangos inžinerijos pastangų, siekiant optimizuoti našumo sistemas, taupyti reikšmingus išteklius ir sumažinti sudėtingumą, susijusį su „pasidaryk pats“ platformų palaikymu, [4].
6. Mastelio keitimas ir lankstumas: Nors „pasidaryk pats“ platformos gali būti pritaikytos, joms dažnai trūksta integruotų sistemų, tokių kaip DGX stotis, mastelį ir lankstumą. Stoties galimybė būti sujungta su kitais vienetais per didelės spartos jungtis (pvz., „ConnectX-8 Supernic“ naujesniuose modeliuose) leidžia paskirstyti skaičiavimo užduotis, todėl lengviau išplėsti AI darbo krūvius be pasirinktinių tinklų sprendimų sudėtingumo ir sąnaudų [2].
Apskritai, „DGX“ stotis siūlo ekonomiškai efektyvų AI skaičiavimo sprendimą, pateikdama išsamią, optimizuotą sistemą, kuri sumažina tiek išankstines, tiek nuolatines išlaidas, susijusias su „pasidaryk pats“ platformų kūrimu ir palaikymu.
Citatos:
[1] https://viperatech.com/shop/nvidia-dgx-a100-ai-platform/
[2] https://hothardware.com/news/nvidia-project-digits-renamed-dgx-park-and-dgx-stiation
[3] https://www.vion.com/wp-content/uploads/2019/04/the-total-economic-impact-of-nvidia-dgx1-march-2018-final.pdf
[4] https://www.exxactcorp.com/nvidia-985-22587-2511-d00-e1689784
[5] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-ai-superkompiuteriai
[6] https://nvidianews.nvidia.com/news/nvidia-announces-dgx-park-and-dgx-stiation-personal-ai-computers
[7] https://en.wikipedia.org/wiki/nvidia_dgx
[8] https://www.youtube.com/watch?v=yxvkcibixsa