Chi phí bảo trì dài hạn liên quan đến trạm NVIDIA DGX bao gồm một số thành phần góp phần bảo trì tổng thể và chi phí vận hành. Đây là một sự cố chi tiết:
1. Hợp đồng hỗ trợ và bảo trì: Chi phí hàng năm cho hợp đồng hỗ trợ từ NVIDIA là khoảng $ 67,050, điều này rất quan trọng để đảm bảo hỗ trợ và duy trì liên tục của trạm DGX [1]. Chi phí này là một phần của chi phí hỗ trợ tổng thể mà các tổ chức cần ngân sách hàng năm.
2. Hỗ trợ tương đương toàn thời gian (FTE): Các tổ chức thường yêu cầu một FTE để hỗ trợ và duy trì trạm DGX. Mức lương trung bình hoàn toàn gánh nặng cho vai trò này là khoảng 140.000 đô la mỗi năm [1]. Chi phí này là rất cần thiết để đảm bảo rằng hệ thống được quản lý và duy trì đúng cách.
3. Chi phí hỗ trợ được điều chỉnh rủi ro: Do sự phức tạp tiềm tàng trong việc hỗ trợ trạm DGX, chẳng hạn như thâm hụt các kỹ năng hỗ trợ nội bộ hoặc môi trường phức tạp, các chi phí này thường được điều chỉnh tăng khoảng 10%[1]. Điều chỉnh này phản ánh những thách thức bổ sung mà một số tổ chức có thể phải đối mặt trong việc duy trì hệ thống một cách hiệu quả.
4. Thay thế và nâng cấp phần cứng: Theo thời gian, các thành phần như SSD hoặc DIMM có thể cần thay thế. Chi phí của các thành phần này và lao động cần thiết để thay thế có thể thêm vào các chi phí bảo trì dài hạn. Ví dụ, thay thế SSD không chỉ liên quan đến chi phí của SSD mới mà còn thời gian cần thiết để xây dựng lại mảng RAID nếu cần thiết [3].
5. Cập nhật và bảo trì phần mềm: Trong khi các bản cập nhật phần mềm có sẵn, đảm bảo rằng trạm DGX vẫn cập nhật với các bản vá và phiên bản phần mềm bảo mật mới nhất là rất quan trọng. Điều này yêu cầu kiểm tra thường xuyên để cập nhật và can thiệp thủ công có khả năng áp dụng các bản cập nhật này, có thể tiêu thụ tài nguyên CNTT [2].
6. Tiêu thụ năng lượng: Mặc dù trạm DGX được thiết kế để tiết kiệm năng lượng, nhưng nó vẫn tiêu thụ sức mạnh đáng kể, đặc biệt là trong các triển khai quy mô lớn. Chi phí năng lượng liên tục này nên được đưa vào chi phí bảo trì dài hạn [6].
7. Thời gian chết và thỏa thuận bảo trì: Như đã lưu ý trong một số trải nghiệm của người dùng, thời gian chết có thể xảy ra và các thỏa thuận bảo trì có thể cần thiết để giảm thiểu các rủi ro này. Các thỏa thuận bảo trì hàng năm có thể có giá khoảng 12.000 đô la, nên được đưa vào ngân sách bảo trì tổng thể [7].
Tóm lại, chi phí bảo trì dài hạn của trạm DGX bao gồm các hợp đồng hỗ trợ, chi phí nhân sự, thay thế phần cứng, bảo trì phần mềm, tiêu thụ năng lượng và chiến lược giảm thiểu thời gian chết tiềm năng. Những chi phí này nêu bật tầm quan trọng của việc lập kế hoạch và lập ngân sách kỹ lưỡng cho các tổ chức đầu tư vào công nghệ này.
Trích dẫn:
[1] https://www.vion.com/wp-content/uploads/2019/04/The-Total-Economic-Impact-of-NVIDIA-DGX1-March-2018-FINAL.pdf
[2] http://cdn.cnetcontent.com/2f/ed/2fed407b-03de-4bda-86b4-64cb9ec20a50.pdf
[3] https://docs.nvidia.com/dgx/pdf/dgx-station-user-guide.pdf
[4] https://images.nvidia.com/aem-dam/Solutions/Data-Center/nvidia-dgx-station-a100-industrial-solution-brief.pdf
[5] https://docs.nvidia.com/dgx/dgx-station-user-guide/index.html
[6] https://www.fibermall.com/blog/nvidia-hgx-vs-dgx.htm
[7] https://www.reddit.com/r/machinelearning/commentS
[8] https://docs.nvidia.com/dgx/dgx-station-a100-service-manual/index.html
