Postaja NVIDIA DGX, močna delovna postaja, zasnovana za globoko učenje in analitiko AI, ima več skritih stroškov in potencialnih nepričakovanih stroškov, ki bi se jih uporabniki zavedali:
1. stroški vzdrževanja in podpore: Postaja DGX zahteva znatno letno sporazum o vzdrževanju. Za starejše modele, kot je postaja DGX s Tesla V100 GPUS, standardna garancija stane približno 10.000 dolarjev na leto, z minimalno zavezo ene leto [3]. Ta strošek ni vključen v začetno nakupno ceno in se lahko sčasoma sešteje. Za novejše modele bodo verjetno veljali podobni stroški podpore.
2. Poraba energije: Postaja DGX ima veliko porabo energije, pri čemer starejši modeli zahtevajo do 1500 W [5]. To lahko privede do povečanih računov za elektriko in lahko zahteva nadgradnjo električne infrastrukture v vašem objektu, kar je lahko drago.
3. Vzdrževanje hladilnega sistema: Postaja DGX uporablja sistem za hlajenje z vodo, ki je lahko nagnjen k vprašanjem, kot so okvare črpalke, še posebej, če niso pravilno vzdrževane [2]. Redno čiščenje in vzdrževanje sta ključnega pomena za preprečevanje pregrevanja in okvare sistema. Če sistem ni pravilno vzdrževan, bo morda potreben draga popravila ali celo zamenjava.
4. Obnovitev podatkov in varnostna kopija: Zanašanje postaje DGX na lastniško strojno opremo za obnovitev podatkov lahko privede do znatnih izpadov in stroškov, če shranjevanje ne uspe. Ključnega pomena je, da vzpostavite zanesljivo strategijo varnostne kopije, na primer uporaba zunanjih rešitev za shranjevanje ali storitve v oblaku, za ublažitev teh tveganj [1].
5. Nadgradnja in nadomestitveni stroški: Glede na visoke stroške komponent postaje DGX, kot so GPU -ji, nadgradnja ali zamenjava delov, so lahko dragi. Poleg tega lahko zasnova sistema po meri omeji združljivost s komponentami tretjih oseb, kar še poveča stroške.
6. Prostor in okoljske potrebe: Postaja DGX je težka in za učinkovito delovanje potrebuje čisto, brez prahu, dobro prezračeno okolje [4]. To lahko zahteva dodatne naložbe v infrastrukturo, da se zagotovi optimalne pogoje.
Če povzamemo, medtem ko postaja DGX ponuja močne zmogljivosti za naloge AI in poglobljenega učenja, ima znatne stalne stroške in potencialne stroške, povezane z vzdrževanjem, porabo energije, vzdrževanjem sistema hlajenja, upravljanjem podatkov in infrastrukturnih zahtevah.
Navedbe:
[1] https://www.reddit.com/r/machinelearning/comments/lswpni/d_is_a_dgx_a100_worth_it/
[2] https://www.reddit.com/r/watercooling/comments/1it9rzf/nvidia_dgx_station_a100s_overheating/
[3] https://forums.developer.nvidia.com/t/anyone-has-experiences-ordersing-dgx-1-dgx-station/50528
[4] https://docs.nvidia.com/dgx/pdf/dgx-station-user-guide.pdf
[5] https://www.servethehome.com/nvidia-dgx-station-pagradEd-tesla-v100/
[6] https://www.reddit.com/r/localllama/comments/1jedolw/nvidia_dgx_station_and_digits_officialy_branded/
[7] https://www.tomshardware.com/tech-industry/artifial-intelligence/nvidia-unveils-dgx-station-workstation-pcs-gb300-blackwell-ultra-Inside
[8] https://www.transit.dot.gov/sites/fta.dot.gov/files/docs/research-innion/114661/strategic-transit-automation-remation-research-report-no-0116_0.pdf
[9] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-Specialized-desktop-line-for-ai-work