Trạm NVIDIA DGX, một máy trạm mạnh mẽ được thiết kế để học sâu và phân tích AI, đi kèm với một số chi phí ẩn và các chi phí bất ngờ tiềm năng mà người dùng nên biết:
1. Chi phí bảo trì và hỗ trợ: Trạm DGX yêu cầu một thỏa thuận bảo trì hàng năm đáng kể. Đối với các mẫu cũ như trạm DGX với GPU Tesla V100, bảo hành tiêu chuẩn có giá khoảng 10.000 đô la mỗi năm, với cam kết tối thiểu là một năm [3]. Chi phí này không được bao gồm trong giá mua ban đầu và có thể tăng lên theo thời gian. Đối với các mô hình mới hơn, chi phí hỗ trợ tương tự có khả năng được áp dụng.
2. Tiêu thụ năng lượng: Trạm DGX có mức tiêu thụ điện năng cao, với các mô hình cũ hơn yêu cầu lên tới 1500W [5]. Điều này có thể dẫn đến tăng hóa đơn tiền điện và có thể đòi hỏi phải nâng cấp cơ sở hạ tầng điện trong cơ sở của bạn, có thể tốn kém.
3. Bảo trì hệ thống làm mát: Trạm DGX sử dụng hệ thống làm mát nước, có thể dễ bị các vấn đề như trục trặc bơm, đặc biệt nếu không được bảo trì đúng cách [2]. Làm sạch và bảo trì thường xuyên là rất quan trọng để ngăn ngừa quá nhiệt và thất bại hệ thống. Nếu hệ thống không được duy trì đúng cách, nó có thể yêu cầu sửa chữa tốn kém hoặc thậm chí thay thế.
4. Phục hồi và sao lưu dữ liệu: Sự phụ thuộc của trạm DGX vào phần cứng độc quyền để khôi phục dữ liệu có thể dẫn đến thời gian chết và chi phí đáng kể nếu lưu trữ không thành công. Điều cần thiết là phải có một chiến lược sao lưu mạnh mẽ tại chỗ, chẳng hạn như sử dụng các giải pháp lưu trữ bên ngoài hoặc dịch vụ đám mây, để giảm thiểu các rủi ro này [1].
5 Ngoài ra, thiết kế tùy chỉnh của hệ thống có thể hạn chế khả năng tương thích với các thành phần của bên thứ ba, tăng thêm chi phí.
6. Yêu cầu về không gian và môi trường: Trạm DGX nặng và đòi hỏi một môi trường sạch sẽ, không có bụi, được thông thoáng để hoạt động hiệu quả [4]. Điều này có thể đòi hỏi các khoản đầu tư bổ sung vào cơ sở hạ tầng để đảm bảo các điều kiện tối ưu.
Tóm lại, trong khi trạm DGX cung cấp các khả năng mạnh mẽ cho AI và các nhiệm vụ học tập sâu, thì nó đi kèm với chi phí liên tục và chi phí tiềm năng liên quan đến bảo trì, tiêu thụ năng lượng, bảo trì hệ thống làm mát, quản lý dữ liệu và yêu cầu cơ sở hạ tầng.
Trích dẫn:
.
.
[3] https://forums.developer.nvidia.com/t/anyone-has-experiences-with-ordering-dgx-1-dgx-station/50528
[4] https://docs.nvidia.com/dgx/pdf/dgx-station-user-guide.pdf
.
.
[7] https://www.tomshardware.com/tech-industry/artificial-intelligence/nvidia-unveils-dgx-station-workstation-pcs-gb300-blackwell-ultra-inside
[8] https://www.transit.dot.gov/sites/fta.dot.gov/files/docs/research-innovation/114661/strategic-transit-automation-research-report-no-0116_0.pdf
[9] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-specialized-desktop-line-for-ai-work