Att ställa in kraftövervakning på NVIDIA DGX -stationen A100 involverar flera bästa metoder för att säkerställa korrekt och effektiv spårning av energiförbrukning. Här är några detaljerade steg och överväganden:
Förstå systemets kraftarkitektur
DGX -stationen A100 är utformad med robusta krafthanteringsfunktioner, inklusive övervakning av fläkthastigheter, strömförbrukning och systemspänningar. Dessa funktioner är tillgängliga genom BASBoard Management Controller (BMC) -gränssnittet, som tillhandahåller ett webbaserat användargränssnitt för övervakning och hantering av systemkomponenter [7].Använda BMC för kraftövervakning
1. Åtkomst till BMC: BMC låter dig övervaka strömförbrukning och andra systemmätningar. Du kan komma åt det via ett webbgränssnitt eller via IPMI -kommandon. Se till att du har konfigurerat en statisk IP -adress för BMC för att underlätta fjärråtkomst [3] [7].2. Konfigurera IPMI: Använd verktyg som `ipmitool` för att konfigurera och hämta sensoravläsningar från BMC. Detta inkluderar strömförbrukningsdata, som kan samlas in med jämna mellanrum [7].
Implementering av tidsserie -insamling
För att övervaka strömförbrukning över tid måste du samla in data med regelbundna intervaller och lagra dem i en tidsseriedatabas. Här är hur du kan göra det:1. SAMPLING POWER DATA: Använd skript eller verktyg för att prova strömförbrukningsdata från BMC eller andra övervakningsgränssnitt med inställda intervall (t.ex. varje minut).
2. Databas för tidsserier: Ställ in en tidsseriedatabas som Prometheus eller InfluxDB för att lagra de insamlade uppgifterna. Dessa databaser är optimerade för att hantera stora mängder tidsstämplade data effektivt [1].
3. Visualisering med Grafana: Använd Grafana för att skapa instrumentpaneler som visualiserar data om strömförbrukning över tid. Detta möjliggör enkel övervakning och analys av energianvändningsmönster [1].
Ytterligare överväganden
- Fjärrhantering: Utnyttja BMC: s fjärrhanteringsfunktioner, inklusive Serial Over LAN (SOL) och KVM -funktioner, för att hantera systemet utan fysisk åtkomst [7].- Strömförsörjningshantering: Se till att strömförsörjningsomkopplaren hanteras korrekt för att undvika strömproblem under drift [8].
- Säkerhetsåtgärder: Använd alltid den medföljande strömkabeln och undvik att använda hushållens förlängningskablar, eftersom de saknar överbelastningsskydd [8].
Övervaka enskilda komponenter
Medan BMC tillhandahåller kraftdata på systemnivå, kanske du också vill övervaka enskilda komponenter som GPU: er. Verktyg som NVIDIA DCGM kan hjälpa till att hantera och övervaka GPU -prestanda och strömförbrukning [1].Integration av datacenter
Om DGX -stationen A100 är en del av en större datacenteruppsättning, överväg att integrera kraftövervakning med datacentrets infrastruktur. Detta kan innebära att arbeta med datacenterteamet för att få åtkomst till kraftdata från uppströms kraftdistributionsenheter (PDU) [1].Citeringar:
[1] https://www.reddit.com/r/hpc/comments/1125pw7/nvidia_dgxa100_energy_monitoring/
[2] https://docs.nvidia.com/dgx/dgxa100-user-guide/introduktion-to-dgxa100.html
[3] https://www.manualslib.com/manual/2197924/nvidia-dgx-station-a100.html
[4] http://cdn.cnetcontent.com/2f/68/2f6888a0-063f-4d76-94e4-8666b7619dfd.pdf
[5] https://docs.nvidia.com/dgx/pdf/dgxa100-user-guide.pdf
[6] https://docs.nvidia.com/dgx/pdf/best-practices-dgx.pdf
]
[8] https://docs.nvidia.com/dgx/pdf/dgx-station-a100-user-guide.pdf
[9] https://docs.nvidia.com/dgx/dgx-station-a100-user-guide/getting-started-station-a100.html