딥 러닝 및 AI 분석을 위해 설계된 강력한 워크 스테이션 인 NVIDIA DGX 스테이션에는 사용자가 알아야 할 몇 가지 숨겨진 비용과 예상치 못한 비용이 제공됩니다.
1. 유지 보수 및 지원 비용 : DGX 스테이션에는 상당한 연간 유지 보수 계약이 필요합니다. Tesla V100 GPU가있는 DGX 스테이션과 같은 이전 모델의 경우 표준 보증 비용은 연간 약 10,000 달러이며 최소 1 년의 약속이 있습니다 [3]. 이 비용은 초기 구매 가격에 포함되지 않으며 시간이 지남에 따라 추가 될 수 있습니다. 최신 모델의 경우 유사한 지원 비용이 적용될 수 있습니다.
2. 전력 소비 : DGX 스테이션은 전력 소비가 높으며 이전 모델에는 최대 1500W가 필요합니다 [5]. 이로 인해 전기 요금이 증가 할 수 있으며 시설의 전력 인프라 업그레이드가 필요할 수 있으며 비용이 많이들 수 있습니다.
3. 냉각 시스템 유지 보수 : DGX 스테이션은 물 냉각 시스템을 사용합니다.이 시스템은 특히 제대로 유지되지 않은 경우 펌프 오작동과 같은 문제가 발생할 수 있습니다 [2]. 과열 및 시스템 고장을 방지하는 데 정기적 인 청소 및 유지 보수가 중요합니다. 시스템이 제대로 유지되지 않으면 비용이 많이 드는 수리 또는 교체가 필요할 수 있습니다.
4. 데이터 복구 및 백업 : 데이터 복구를위한 독점 하드웨어에 대한 DGX 스테이션의 의존으로 인해 스토리지가 실패하면 중대한 가동 중지 시간과 비용이 발생할 수 있습니다. 외부 스토리지 솔루션 또는 클라우드 서비스를 사용하여 이러한 위험을 완화하는 것과 같은 강력한 백업 전략을 갖추어야합니다 [1].
5. 업그레이드 및 교체 비용 : GPU와 같은 DGX 스테이션 구성 요소의 높은 비용이 주어지면 부품 업그레이드 또는 교체는 비용이 많이들 수 있습니다. 또한 시스템의 사용자 정의 설계는 타사 구성 요소와의 호환성을 제한하여 비용이 더욱 증가 할 수 있습니다.
6. 공간 및 환경 요구 사항 : DGX 스테이션은 무겁고 효과적으로 작동하기 위해 깨끗하고 먼지가없는 환경이 필요합니다 [4]. 이를 위해서는 최적의 조건을 보장하기 위해 인프라에 대한 추가 투자가 필요할 수 있습니다.
요약하면 DGX 스테이션은 AI 및 딥 러닝 작업에 대한 강력한 기능을 제공하지만 유지 보수, 전력 소비, 냉각 시스템 유지, 데이터 관리 및 인프라 요구 사항과 관련된 상당한 지속적인 비용 및 잠재적 비용이 제공됩니다.
인용 :
[1] https://www.reddit.com/r/machinelearning/comments/lswpni/d_is_a_dgx_a100_worth_it/
[2] https://www.reddit.com/r/watercooling/comments/1it9rzf/nvidia_dgx_station_a100s_overheating/
[3] https://forums.developer.nvidia.com/t/anyone-has-experiences-with-ording-dgx-1-dgx-station/50528
[4] https://docs.nvidia.com/dgx/pdf/dgx-station-user-guide.pdf
[5] https://www.servethehome.com/nvidia-dgx--ugraded-tesla-v100/
[6] https://www.reddit.com/r/localllama/comments/1jedolw/nvidia_dgx_station_and_digits_officially_branded/
[7] https://www.tomshardware.com/tech-industry/artificial-intelligence/nvidia-unveils-dgx-station-workstation-pcs-bb300-blackwell-ultra-inside
[8] https://www.transit.dot.gov/sites/fta.dot.gov/files/docs/research-innovation/114661/strategic-transit-automation-research-report-no-0116_0.pdf
[9] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-pecialized-desktop-line-for-ai-work