Att ställa in ny Relic AI -övervakning för en Deepseek -applikation innebär flera viktiga steg som hjälper dig att få omfattande synlighet i din AI -applikationens prestanda, kvalitet och kostnad. Här är en detaljerad guide för hur man ställer in den:
Steg 1: Instrument din Deepseek -applikation
För att börja övervaka din Deepseek -applikation med New Relic måste du först instrumentera din ansökan. Detta handlar om att integrera New Relics Application Performance Monitoring (APM) -agenter i din ansökan. Eftersom Deepseek använder ett OpenAI-kompatibelt API kan du använda OpenAI SDK i din ansökan om enklare integration med New Relic [2].1. Registrera dig eller logga in: Börja med att registrera dig för ett nytt relikkonto eller logga in om du redan har ett.
2. Access Integrations & Agents: Navigera till avsnittet Integrations & Agents i din nya Relic Dashboard.
3. Välj OpenAI -integration: Skriv in OpenAI i sökfältet och välj den. Detta beror på att Deepseek -modellerna är kompatibla med OpenAI API: er.
4. Välj ditt programmeringsspråk: Välj det programmeringsspråk som används av din applikation (t.ex. Python, Node.js).
5. Följ guidad ombord: Följ den guidade onboardingprocessen som tillhandahålls av New Relic för att instrument din ansökan. Denna process kommer att leda dig genom att ställa in nödvändiga konfigurationer för AI -övervakning [2].
Steg 2: Åtkomst till AI -övervakning
När din ansökan är instrumenterad kan du börja använda ny Relic AI -övervakning:1. Navigera till AI -övervakning: Gå till alla funktioner i din nya relikspanel och klicka på AI -övervakningen.
2. Välj din ansökan: I AI-övervakningsavsnittet, under alla enheter, välj din Deepseek-applikation (t.ex. "Deepseek-Local") för att se dess prestationsdata [2].
Steg 3: Utvärdera prestanda, kvalitet och kostnad
Med din applikation inställd kan du nu utvärdera viktiga mätvärden:1. APM 360 Sammanfattning: Visa APM 360 -sammanfattning för insikter i mätvärden som förfrågningar, responstider, tokenanvändning och felfrekvens. Detta hjälper till att identifiera problem snabbt [2].
2. Djup spårningsvy: Klicka på AI -svar i APM 360 -sammanfattningen för att se detaljerade spår från användarinmatning till slutliga svar, inklusive metadata som tokenräkningar och modellinformation [2].
3. Modellkvalitetsutvärdering: Analysera stora språkmodell (LLM) svar för att identifiera problem som toxicitet eller negativitet, även om den här funktionen för närvarande är i begränsad förhandsgranskning [2].
Steg 4: Jämför modeller
New Relic låter dig jämföra olika AI -modeller för att optimera prestanda och kostnad:1. Modelljämförelse: Använd New Relics modelljämförelsefunktioner för att bedöma hur växling mellan modeller påverkar din applikations prestanda och kostnader. Detta hjälper till att välja den mest lämpliga modellen för dina behov [3] [10].
Steg 5: Se till att datasekretess och säkerhet
För att skydda känslig data kan du konfigurera droppfilter:1. Skapa droppfilter: Navigera för att släppa filter och skapa filter för att utesluta känsliga data (t.ex. personlig identifierbar information) från dina AI -förfrågningar och svar [2].
Genom att följa dessa steg kan du effektivt ställa in ny Relic AI -övervakning för din Deepseek -applikation och få värdefull insikt i dess prestanda samtidigt som du säkerställer datasekretess och säkerhet.
Citeringar:
[1] https://docs.newrelic.com/install/ai-monitoring/
[2] https://newrelic.com/blog/how-to-loth
[3] https://cxotoday.com/press-release/new-relic-announces-the-industrys-ly-observability-integration-with-deepseek-to-accelerate-ai-adoption-o-roi/
[4] https://newrelic.com/blog/how-to-lonic/ai-monitoring-for-nvidia-nim
]
[6] https://newrelic.com/blog/how-to-loth
[7] https://newrelic.com/blog/how-to-relic/ai-monitoring
]
[9] https://docs.newrelic.com/docs/ai-monitoring/intro-to-ai-monitoring/
[10] https://newrelic.com/press-release/20250203