Stanice NVIDIA DGX je výkonná pracovní stanice určená pro aplikace pro hluboké učení a nabízí významná vylepšení výkonu pro podniky zapojené do rozvoje umělé inteligence. Přichází však se značnými důsledky nákladů, které by podniky měly zvážit:
1. Kupní cena: Modely stanice DGX A100 jsou oceněny na 149 000 USD za variantu 320 g a 99 000 USD za variantu 160 g [8] [9]. Tato počáteční investice je značná a může to být překážkou pro menší podniky nebo ty s omezenými rozpočty.
2. Možnosti pronájmu: Pro společnosti, které si nemohou dovolit předem, NVIDIA nabízí možnosti pronájmu. Cena pronájmu je přibližně 9 000 USD měsíčně pro model stanice DGX A100 320G [8] [9]. I když to snižuje počáteční kapitálové výdaje, průběžné měsíční náklady mohou být v průběhu času stále značné.
3.. Náklady na implementaci: Ačkoli stanice DGX je navržena jako řešení na klíč, mohou vzniknout některé náklady na implementaci, zejména pokud je potřeba další infrastruktura nebo podpora. Tyto náklady jsou však obecně nižší ve srovnání s budováním a udržováním platforem AI pro kutily [1].
4. Podpora a údržba: Podniky budou muset zvážit přetrvávající náklady na podporu a údržbu. Zatímco stanice DGX je navržena tak, aby byla efektivní a spolehlivá, zajištění, že funguje optimálně, může vyžadovat vyhrazený personál nebo podpůrné smlouvy, což zvyšuje celkové náklady [1].
5. Spotřeba energie: Ačkoli stanice DGX je ve srovnání s tradičními servery energeticky účinná, stále spotřebovává významnou energii, zejména při plném zatížení. To by mohlo vést k vyšším účtům za elektřinu v průběhu času, což by mělo být zohledněno do provozních nákladů [5].
6. Náklady na příležitost: Investice do stanice DGX znamená odklonění zdrojů od jiných potenciálních projektů nebo technologií. Podniky musí zvážit výhody vylepšených schopností AI proti jiným strategickým prioritám a potenciální návratnosti investic.
7. ROI a výhody: Navzdory nákladům může stanice DGX nabídnout značné výhody, jako je zrychlený vývoj modelu a zlepšená přesnost, což vede k potenciálnímu zvýšení příjmů a úsporám nákladů podobné těm, které se vyskytují u serveru DGX-1 [1]. Tyto výhody však závisí na konkrétním případě použití a na tom, jak je technologie integrována do podnikání.
Stručně řečeno, zatímco stanice DGX nabízí silné schopnosti AI, podniky musí pečlivě zvážit finanční důsledky, včetně nákladů na nákup nebo pronájem, trvalé podpory a potenciálních energetických výdajů, proti potenciálním výhodám zvýšené výkonnosti a efektivity AI.
Citace:
[1] https://www.vion.com/wp-content/uploads/2019/04/the-total-economic-impact-of-nvidia-dgx1-march-2018-final.pdf
[2] https://semianalysis.com/2023/05/29/ai-server-cost-analysis-Memory-is//
[3] https://www.fibermall.com/blog/nvidia-hgx-vs-dgx.htm
[4] https://www.maginative.com/article/nvidia-unveils-dgx-park-and-dgx-station-desktop-ai-supercomputers-for the-developer-masses/
[5] https://www.tomshardware.com/news/nvidia-v100-dgx-station-gpu,36616.html
[6] https://docs.nvidia.com/dgx/dgx-station-user-guide/index.html
[7] https://www.techradar.com/pro/nvidias-dgx-station-nings-800GBPS-Lan-the-Powerful-Ever-Launched in-Adesktop-WorkStation-pc
[8] https://www.tomshardware.com/news/nvidia-dgx-station-320g
[9] https://en.wikipedia.org/wiki/nvidia_dgx