Stanica NVIDIA DGX je výkonná pracovná stanica určená pre aplikácie hlbokého vzdelávania a ponúka významné vylepšenia výkonnosti pre podniky zapojené do vývoja AI. Dodáva sa však s podstatnými dôsledkami nákladov, ktoré by podniky mali zvážiť:
1. Kúpna cena: Modely stanice DGX A100 sú ceny za 149 000 dolárov za variant 320G a 99 000 dolárov za variant 160 g [8] [9]. Táto počiatočná investícia je značná a môže byť prekážkou pre menšie podniky alebo podniky s obmedzeným rozpočtom.
2. Možnosti prenájmu: Pre spoločnosti, ktoré si nemôžu dovoliť počiatočné náklady, NVIDIA ponúka možnosti prenájmu. Cena prenájmu je približne 9 000 dolárov mesačne pre model DGX Station A100 320G model [8] [9]. Aj keď to znižuje počiatočné kapitálové výdavky, priebežné mesačné náklady môžu byť v priebehu času stále značné.
3. Náklady na implementáciu: Aj keď je stanica DGX navrhnutá ako riešenie na kľúč, môžu vzniknúť niektoré náklady na implementáciu, najmä ak je potrebná ďalšia infraštruktúra alebo podpora. Tieto náklady sú však vo všeobecnosti nižšie v porovnaní s budovaním a udržiavaním platforiem DIY AI [1].
4. Podpora a údržba: Podniky budú musieť brať do úvahy neustále náklady na podporu a údržbu. Zatiaľ čo stanica DGX je navrhnutá tak, aby bola efektívna a spoľahlivá, zabezpečenie toho, aby fungovala optimálne, môže vyžadovať špecializovaných pracovníkov alebo podporných zmlúv, čo zvyšuje celkové náklady [1].
5. Spotreba energie: Aj keď stanica DGX je energeticky účinná v porovnaní s tradičnými servermi, stále spotrebuje významnú silu, najmä pri plnom zaťažení. To by mohlo viesť k vyšším účtom za elektrinu v priebehu času, ktoré by sa mali zohľadniť do prevádzkových nákladov [5].
6. Náklady na príležitosti: Investovanie do stanice DGX znamená presmerovanie zdrojov od iných potenciálnych projektov alebo technológií. Podniky musia zvážiť výhody zvýšených schopností AI oproti iným strategickým prioritám a potenciálnym výnosom investícií.
7. NI a výhody: Napriek nákladom môže stanica DGX ponúknuť podstatné výhody, ako napríklad zrýchlený vývoj modelu a zlepšená presnosť, čo vedie k potenciálnemu zvýšeniu príjmov a úsporám nákladov podobné tým, ktoré sa vyskytli so serverom DGX-1 [1]. Tieto výhody však závisia od konkrétneho prípadu použitia a od toho, ako je táto technológia integrovaná do podnikania.
Stručne povedané, zatiaľ čo stanica DGX ponúka silné schopnosti AI, podniky musia starostlivo zvážiť finančné dôsledky vrátane nákladov na nákup alebo nájomné, trvalú podporu a potenciálne energetické náklady, oproti potenciálnym výhodám zvýšenej výkonnosti a efektívnosti AI.
Citácie:
Https://www.vion.com/wp-content/uploads/2019/04/the-total-economic-impAct-ofof-of-k-phac-of-k-of-jidia-dgx1-march-2018-final.pdf
[2] https://semianalýza.com/2023/05/29/ai-server-cost-analysis-memory-is/
[3] https://www.fiberall.com/blog/nvidia-hgx-vs-dgx.htm
[4] https://www.maginative.com/article/nvidia-unveils-dgx-park-and-dgx-dation-desktop-ai-superComputers-for-the-developer-masses/
[5] https://www.tomshardware.com/news/nvidia-v100-dgx-station-gpu-36616.html
[6] https://docs.nvidia.com/dgx/dgx-station-user-guide/index.html
Https://www.techradar.com/pro/nvidias-dgx-station-brings-800gbps-Lan-the-the-power-power-chip-ever-everyed-leunched-in-a-desktop-workstation-pc
[8] https://www.tomshardware.com/news/nvidia-dgx-tation-320g
[9] https://en.wikipedia.org/wiki/nvidia_dgx