Станція NVIDIA DGX, потужна робоча станція, розроблена для глибокого навчання та аналітики AI, має кілька прихованих витрат та потенційних несподіваних витрат, про які користувачі повинні знати:
1. Витрати на технічне обслуговування та підтримку: станція DGX вимагає значної річної угоди про обслуговування. Для старих моделей, таких як станція DGX з GPU Tesla V100, стандартна гарантія коштує близько 10 000 доларів на рік, з мінімальним зобов'язанням на один рік [3]. Ця вартість не включається до первинної ціни покупки і може з часом складати. Для нових моделей, ймовірно, застосовуватимуться подібні витрати на підтримку.
2. Споживання електроенергії: станція DGX має високе споживання електроенергії, при цьому старі моделі вимагають до 1500 Вт [5]. Це може призвести до збільшення рахунків за електроенергію і може зажадати модернізації енергетичної інфраструктури у вашому закладі, що може бути дорогим.
3. Технічне обслуговування системи охолодження: станція DGX використовує систему охолодження води, яка може бути схильна до таких питань, як несправності насоса, особливо якщо не належним чином підтримується [2]. Регулярне очищення та обслуговування має вирішальне значення для запобігання перегріву та відмови системи. Якщо система не належним чином підтримується, вона може вимагати дорогого ремонту або навіть заміни.
201 Важливо створити надійну стратегію резервного копіювання, наприклад, використання зовнішніх рішень для зберігання або хмарних служб для зменшення цих ризиків [1].
5. Оновлення та заміну витрат: Враховуючи високу вартість компонентів станції DGX, таких як графічні процесори, модернізацію або заміну деталей може бути дорогим. Крім того, спеціальна конструкція системи може обмежувати сумісність із сторонніми компонентами, що ще більше збільшують витрати.
6. Простір та екологічні вимоги: станція DGX є важкою і вимагає чистого, без пилу, добре провітрюваного середовища для ефективної роботи [4]. Це може зажадати додаткових інвестицій в інфраструктуру для забезпечення оптимальних умов.
Підсумовуючи це, хоча станція DGX пропонує потужні можливості для AI та глибоких навчальних завдань, вона має значні поточні витрати та потенційні витрати, пов'язані з обслуговуванням, споживанням електроенергії, обслуговуванням системи охолодження, управлінням даними та інфраструктурними вимогами.
Цитати:
[1] https://www.reddit.com/r/machinelearning/comments/lswpni/d_is_a_dgx_a100_worth_it/
[2] https://www.reddit.com/r/watercooling/comments/1it9rzf/nvidia_dgx_station_a100s_overheating/
[3] https://forums.developer.nvidia.com/t/anyone-has-experiences-with-dering-dgx-1-dgx-station/50528
[4] https://docs.nvidia.com/dgx/pdf/dgx-station-user-guide.pdf
[5] https://www.servethehome.com/nvidia-dgx-station-ongraded-tesla-v100/
[6] https://www.reddit.com/r/localllama/comments/1jedolw/nvidia_dgx_station_and_digits_officialy_bredder/
[7] https://www.tomshardware.com/tech-industry/artificial-intelligent/nvidia-unveils-dgx-station-workstation-pcs-gb300-blackwell-ultra-inside
[8] https://www.transit.dot.gov/sites/fta.dot.gov/files/docs/research-innovation/114661/strategic-transit-automation-research-report-0116_0.pdf
[9] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-scialized-desktop-line-for-ai-work
