Długoterminowe koszty utrzymania związane ze stacją NVIDIA DGX obejmują kilka komponentów, które przyczyniają się do ogólnych kosztów utrzymania i operacji. Oto szczegółowy podział:
1. Umowy dotyczące wsparcia i konserwacji: roczny koszt umowy o wsparcie z NVIDIA wynosi około 67 050 USD, co jest kluczowe dla zapewnienia dalszego wsparcia i utrzymania stacji DGX [1]. Koszt ten jest częścią ogólnych wydatków wsparcia, które organizacje potrzebują przez corocznie.
2. Wsparcie równoważne w pełnym wymiarze godzin (FTE): Organizacje zwykle wymagają jednego FTE do obsługi i utrzymania stacji DGX. Średnia w pełni obciążona pensja tej roli wynosi około 140 000 USD rocznie [1]. Koszt ten jest niezbędny do zapewnienia właściwego zarządzania i utrzymania systemu.
3. Koszty wsparcia skorygowane o ryzyko: Ze względu na potencjalną złożoność wspierania stacji DGX, na przykład deficyt w umiejętnościach wsparcia wewnętrznego lub złożone środowiska, koszty te są często dostosowywane w górę o około 10%[1]. Ta korekta odzwierciedla dodatkowe wyzwania, z którymi niektóre organizacje mogą napotkać podczas skutecznego utrzymania systemu.
4. Wymiana i aktualizacje sprzętu: Z czasem komponenty takie jak SSD lub DIMMS mogą wymagać wymiany. Koszt tych komponentów i siła robocza wymagana do wymiany mogą zwiększyć długoterminowe wydatki na utrzymanie. Na przykład zastąpienie SSD obejmuje nie tylko koszt nowego SSD, ale także czas wymagany do odbudowy tablicy RAID w razie potrzeby [3].
5. Aktualizacje oprogramowania i utrzymanie: Chociaż aktualizacje oprogramowania są dostępne, zapewniając, że stacja DGX pozostaje aktualna z najnowszymi łatami bezpieczeństwa i wersji oprogramowania. Wymaga to regularnych kontroli aktualizacji i potencjalnie ręcznej interwencji w celu zastosowania tych aktualizacji, które mogą konsumować zasoby IT [2].
6. Zużycie energii: Chociaż stacja DGX jest zaprojektowana tak, aby była energooszczędna, nadal zużywa znaczną moc, szczególnie w rozmieszczeniach na dużą skalę. Ten bieżący koszt energii należy uwzględnić w długoterminowych kosztach konserwacji [6].
7. Porozumienia przestoju i konserwacji: Jak zauważono w niektórych doświadczeniach użytkowników, mogą wystąpić przestoje, a umowy o konserwacji mogą być konieczne w celu ograniczenia tych ryzyka. Roczne umowy konserwacyjne mogą kosztować około 12 000 USD, które powinny być uwzględnione w ogólnym budżecie utrzymania [7].
Podsumowując, długoterminowe koszty utrzymania stacji DGX obejmują umowy wsparcia, koszty personelu, wymiany sprzętu, utrzymanie oprogramowania, zużycie energii i potencjalne strategie łagodzenia przestojów. Koszty te podkreślają znaczenie dokładnego planowania i budżetowania dla organizacji inwestujących w tę technologię.
Cytaty:
[1] https://www.vion.com/wp-content/uploads/2019/04/the-total-economic-impact-of-nvidia-dgx1-march-2018-final.pdf
[2] http://cdn.cnetcontent.com/2f/ed/2fed407b-03de-4bda-86b4-64cb9ec20a50.pdf
[3] https://docs.nvidia.com/dgx/pdf/dgx-station-user-guide.pdf
[4] https://images.nvidia.com/aem-dam/solutions/data-cocenter/nvidia-dgx-station-a100-industrial-solution-brief.pdf
[5] https://docs.nvidia.com/dgx/dgx-station-user-guide/index.html
[6] https://www.fibermall.com/blog/nvidia-hgx-vs-dgx.htm
[7] https://www.reddit.com/r/machinelearning/comments/lswpni/d_is_a_dgx_a100_worth_it/
[8] https://docs.nvidia.com/dgx/dgx-station-a100-service-manual/index.html