Postaja NVIDIA DGX je močna delovna postaja, zasnovana za aplikacije za globoko učenje, saj ponuja znatne izboljšave uspešnosti za podjetja, ki se ukvarjajo z razvojem AI. Vendar pa ima znatne posledice za stroške, ki bi jih morala podjetja upoštevati:
1. Nakupna cena: Modeli DGX Station A100 znašajo 149.000 dolarjev za različico 320g in 99.000 USD za različico 160 g [8] [9]. Ta začetna naložba je velika in je lahko ovira za manjša podjetja ali tiste z omejenimi proračuni.
2. Možnosti najema: Za podjetja, ki si ne morejo privoščiti vnaprejšnjih stroškov, NVIDIA ponuja možnosti najema. Najemna cena znaša približno 9.000 USD na mesec za model DGX Station A100 320G [8] [9]. Čeprav to zmanjšuje začetne kapitalske izdatke, so lahko tekoči mesečni stroški sčasoma še vedno znatni.
3. Stroški izvajanja: Čeprav je postaja DGX zasnovana kot rešitev na ključ, se lahko pojavijo nekateri stroški izvajanja, še posebej, če je potrebna dodatna infrastruktura ali podpora. Vendar so ti stroški na splošno nižji v primerjavi z gradnjo in vzdrževanjem DIY AI platform [1].
4. Podpora in vzdrževanje: podjetja bodo morala upoštevati stalne stroške podpore in vzdrževanja. Medtem ko je postaja DGX zasnovana tako, da je učinkovita in zanesljiva, lahko zagotavlja, da bo optimalno deloval, morda zahteva namensko osebje ali podporne pogodbe, kar dodaja skupne stroške [1].
5. Poraba energije: Čeprav je postaja DGX v primerjavi s tradicionalnimi strežniki energetsko učinkovita, še vedno porabi veliko moč, zlasti pod polno obremenitvijo. To bi lahko sčasoma privedlo do višjih računov za elektriko, kar je treba upoštevati v operativnih stroških [5].
6. Priložni stroški: Naložba v postajo DGX pomeni preusmeritev virov iz drugih potencialnih projektov ali tehnologij. Podjetja morajo pretehtati prednosti izboljšanih zmogljivosti AI glede na druge strateške prednostne naloge in morebitne donose naložb.
7. ROI in ugodnosti: Kljub stroškom lahko postaja DGX ponudi znatne koristi, kot so pospešeni razvoj modela in izboljšana natančnost, kar vodi do potencialnih povečanj prihodkov in prihrankov stroškov, podobnih pri tistih, ki so jih imeli na strežniku DGX-1 [1]. Vendar so te koristi odvisne od posebnega primera uporabe in kako učinkovito je tehnologija vključena v podjetje.
Če povzamemo, medtem ko postaja DGX ponuja močne zmogljivosti AI, morajo podjetja skrbno razmisliti o finančnih posledicah, vključno s stroški nakupa ali najemnine, stalno podporo in potencialnimi stroški energije glede na potencialne koristi izboljšane uspešnosti in učinkovitosti AI.
Navedbe:
[1] https://www.vion.com/wp-content/uploads/2019/04/the-total-economic-impact-of-nvidia-dgx1-march-2018-Fanal.pdf
[2] https://semianalysis.com/2023/05/29/AI-Server-cost-analysis-memory-is/
[3] https://www.fibermall.com/blog/nvidia-hgx-vs-dgx.htm
[4] https://www.maginative.com/article/nvidia-unveils-dgx-park-and-dgx-station-stasktop-ai-supercomputers-for-the-developer-masses/
[5] https://www.tomshardware.com/news/nvidia-v100-dgx-station-gpu,36616.html
[6] https://docs.nvidia.com/dgx/dgx-station-user-guide/index.html
[7] https://www.techradar.com/pro/nvidias-dgx-station-brings-800gbps-lan-the-Most-mowful-chip-ever-launch-in-a-desktop-workstation-pc
[8] https://www.tomshardware.com/news/nvidia-dgx-station-320g
[9] https://en.wikipedia.org/wiki/nvidia_dgx