„NVIDIA DGX“ stotis, galinga darbo vieta, skirta giliai mokytis ir AI analizei, turi keletą paslėptų išlaidų ir galimų netikėtų išlaidų, kurias vartotojai turėtų žinoti:
1. Priežiūros ir palaikymo išlaidos: DGX stotis reikalauja reikšmingos metinės priežiūros sutarties. Senesniems modeliams, tokiems kaip DGX stotis su „Tesla V100 GPU“, standartinė garantija kainuoja apie 10 000 USD per metus, o minimalus įsipareigojimas - vieneriems metams [3]. Ši kaina neįtraukta į pradinę pirkimo kainą ir laikui bėgant gali sudėti. Tikėtina, kad naujesniems modeliams panašios paramos išlaidos.
2. Energijos suvartojimas: DGX stotis turi didelę energijos suvartojimą, o senesniems modeliams reikia iki 1500 W [5]. Dėl to gali padidėti sąskaitos už elektrą ir gali prireikti atnaujinti energijos infrastruktūrą jūsų įstaigoje, kuri gali brangiai kainuoti.
3. Aušinimo sistemos priežiūra: DGX stotyje naudojama vandens aušinimo sistema, kuri gali būti linkusi į tokias problemas kaip siurblio gedimai, ypač jei netinkamai prižiūrima [2]. Reguliarus valymas ir priežiūra yra labai svarbūs siekiant išvengti perkaitimo ir sistemos gedimo. Jei sistema nėra tinkamai prižiūrima, jai gali prireikti brangaus remonto ar net pakeitimo.
4. Duomenų atkūrimas ir atsarginė kopija: DGX stoties priklausomybė nuo patentuotos aparatinės įrangos duomenų atkūrimui gali sukelti reikšmingų prastovų ir išlaidų, jei saugojimas nepavyks. Norint sušvelninti šią riziką, labai svarbu turėti patikimą atsarginės kopijos strategiją, pavyzdžiui, naudoti išorinius saugojimo sprendimus ar debesies paslaugas [1].
5. Atnaujinimo ir pakeitimo išlaidos: Atsižvelgiant į dideles „DGX“ stoties komponentų, tokių kaip GPU, atnaujinimas ar dalių keitimas, kainos gali būti brangios. Be to, pritaikytas sistemos dizainas gali apriboti suderinamumą su trečiųjų šalių komponentais, dar labiau padidindamos išlaidas.
6. Erdvės ir aplinkos reikalavimai: DGX stotis yra sunki ir jai reikalinga švari, be dulkių, gerai vėdinama aplinka, kad efektyviai veiktų [4]. Tam gali reikėti papildomų investicijų į infrastruktūrą, kad būtų užtikrintos optimalios sąlygos.
Apibendrinant galima pasakyti, kad nors DGX stotis siūlo galingas AI ir giluminio mokymosi užduoties galimybes, joje yra didelių nuolatinių išlaidų ir galimų išlaidų, susijusių su technine, energijos suvartojimu, aušinimo sistemos priežiūra, duomenų valdymu ir infrastruktūros reikalavimais.
Citatos:
[1] https://www.reddit.com/r/machinelearning/comments/lswpni/d_is_a_dgx_a100_worth_it/
[2] https://www.reddit.com/r/watercooling/comments/1it9rzf/nvidia_dgx_station_a100s_overheating/
[3] https://forums.developer.nvidia.com/t/anyone-has-experiences-with-ording-dgx-1-dgx-stiation/50528
[4] https://docs.nvidia.com/dgx/pdf/dgx-station-user-guide.pdf
[5] https://www.servethehome.com/nvidia-dgx-stiation-ution-dgraded-tesla-v100/
[6] https://www.reddit.com/r/localllama/comments/1jedolw/nvidia_dgx_station_and_digits_officialy_branded/
[7] https://www.tomshardware.com/tech-industry/artificial-intelligence/nvidia-unveils-dgx-station-workStation-pcs-gb300-blackwell-ultra-inside
[8] https://www.transit.dot.gov/sites/fta.dot.gov/files/docs/research-innovation/114661/strategic-transit-autearch-onsearch-report-no-016_0.pdf
[9] https://www.pcmag.com/news/what-is-nvidias-dgx-tation-a-new specifialized-desktop-line-for-ai-work