Thiết lập giám sát điện trên Trạm A100 NVIDIA DGX bao gồm một số thực tiễn tốt nhất để đảm bảo theo dõi tiêu thụ năng lượng chính xác và hiệu quả. Dưới đây là một số bước chi tiết và cân nhắc:
Hiểu kiến trúc sức mạnh của hệ thống
Trạm DGX A100 được thiết kế với các khả năng quản lý năng lượng mạnh mẽ, bao gồm giám sát tốc độ quạt, mức tiêu thụ năng lượng và điện áp hệ thống. Các tính năng này có thể truy cập thông qua giao diện Bộ điều khiển quản lý Baseboard (BMC), cung cấp giao diện người dùng dựa trên web để giám sát và quản lý các thành phần hệ thống [7].sử dụng BMC để giám sát điện
1. Truy cập BMC: BMC cho phép bạn theo dõi mức tiêu thụ điện năng và các số liệu hệ thống khác. Bạn có thể truy cập nó thông qua giao diện web hoặc thông qua các lệnh IPMI. Đảm bảo rằng bạn đã cấu hình một địa chỉ IP tĩnh cho BMC để tạo điều kiện truy cập từ xa [3] [7].2. Định cấu hình IPMI: Sử dụng các công cụ như `ipmitool` để định cấu hình và truy xuất các bài đọc cảm biến từ BMC. Điều này bao gồm dữ liệu tiêu thụ năng lượng, có thể được thu thập theo định kỳ [7].
Triển khai thu thập dữ liệu chuỗi thời gian
Để giám sát mức tiêu thụ năng lượng theo thời gian, bạn cần thu thập dữ liệu theo định kỳ và lưu trữ nó trong cơ sở dữ liệu chuỗi thời gian. Đây là cách bạn có thể làm điều đó:1. Dữ liệu năng lượng lấy mẫu: Sử dụng các tập lệnh hoặc công cụ để lấy mẫu dữ liệu tiêu thụ năng lượng từ BMC hoặc các giao diện giám sát khác trong các khoảng thời gian đã đặt (ví dụ: mỗi phút).
2. Cơ sở dữ liệu chuỗi thời gian: Thiết lập cơ sở dữ liệu chuỗi thời gian như Prometheus hoặc InfluxDB để lưu trữ dữ liệu được thu thập. Các cơ sở dữ liệu này được tối ưu hóa để xử lý một lượng lớn dữ liệu được đóng dấu thời gian một cách hiệu quả [1].
3. Trực quan hóa với Grafana: Sử dụng Grafana để tạo bảng điều khiển trực quan hóa dữ liệu tiêu thụ năng lượng theo thời gian. Điều này cho phép dễ dàng giám sát và phân tích các mẫu sử dụng năng lượng [1].
Cân nhắc bổ sung
- Quản lý từ xa: Tận dụng các khả năng quản lý từ xa của BMC, bao gồm các tính năng nối tiếp trên mạng LAN (SOL) và KVM, để quản lý hệ thống mà không cần truy cập vật lý [7].- Quản lý nguồn điện: Đảm bảo rằng công tắc rocker cung cấp điện được quản lý đúng cách để tránh các vấn đề điện trong quá trình hoạt động [8].
- Phòng ngừa an toàn: Luôn sử dụng cáp nguồn được cung cấp và tránh sử dụng cáp mở rộng hộ gia đình, vì chúng thiếu bảo vệ quá tải [8].
Giám sát các thành phần riêng lẻ
Mặc dù BMC cung cấp dữ liệu năng lượng cấp hệ thống, bạn cũng có thể muốn theo dõi các thành phần riêng lẻ như GPU. Các công cụ như NVIDIA DCGM có thể giúp quản lý và giám sát hiệu suất GPU và mức tiêu thụ năng lượng [1].Tích hợp trung tâm dữ liệu
Nếu trạm DGX A100 là một phần của thiết lập trung tâm dữ liệu lớn hơn, hãy xem xét tích hợp giám sát năng lượng với cơ sở hạ tầng của trung tâm dữ liệu. Điều này có thể liên quan đến việc làm việc với nhóm trung tâm dữ liệu để truy cập dữ liệu năng lượng từ các đơn vị phân phối năng lượng ngược dòng (PDU) [1].Trích dẫn:
.
[2] https://docs.nvidia.com/dgx/dgxa100-user-guide/introduction-to-dgxa100.html
[3] https://www.manualslib.com/manual/2197924/nvidia-dgx-station-a100.html
[4] http://cdn.cnetcontent.com/2f/68/2f6888a0-063f-4d76-94e4-8666b7619dfd.pdf
[5] https://docs.nvidia.com/dgx/pdf/dgxa100-user-guide.pdf
[6] https://docs.nvidia.com/dgx/pdf/best-practices-dgx.pdf
[7] https://www.robusthpc.com/wp-content/uploads/201
[8] https://docs.nvidia.com/dgx/pdf/dgx-station-a100-user-guide.pdf
[9] https://docs.nvidia.com/dgx/dgx-station-a100-user-guide/getting-started-station-a100.html