Ny Relic AI-övervakning förbättrar avsevärt prestandan för Deepseek-R1-modellerna genom att tillhandahålla omfattande synlighet och handlingsbara insikter i deras drift. Så här uppnår det detta:
1. Övervakning av realtid: Ny Relic AI-övervakning gör det möjligt för utvecklare att övervaka applikationer byggda på Deepseek-R1-modeller i realtid. Detta inkluderar spårning av nyckelmätningar som prestanda, kvalitet och kostnad, vilket möjliggör snabb identifiering och upplösning av problem [1] [4].
2. Modelljämförelse och optimering: Plattformen erbjuder modelljämförelsefunktioner, som hjälper företag att optimera kvaliteten, prestandan och kostnaden för Deepseek-R1-modellerna. Denna funktion gör det möjligt för utvecklare att bedöma effekterna av växling mellan olika modeller, vilket säkerställer att de väljer den bästa modellen för deras specifika applikationsbehov [4] [7].
3. Sikt till slut till slut: Ny Relic AI-övervakning integreras med APM 360 för att ge slut till slut synlighet över hela AI-stacken. Detta inkluderar tjänster, infrastruktur och AI-modeller, vilket gör att utvecklare kan korrelera AI-applikationsprestanda med uppströms och nedströms trender i realtid [10].
4. Djup spårning och analys: Plattformen ger djupa spår för varje AI -svar, vilket ger utvecklarna en detaljerad bild av hur deras AI -applikationer fungerar. Detta hjälper till att identifiera outliers, trender och grundorsaker till frågor, vilket gör felsökning mer effektiv [10].
5. Datasäkerhet och integritet: Ny relik stöder datasekretess genom att låta utvecklare utesluta känslig information från övervakning, vilket säkerställer att personlig identifierbar information (PII) skyddas under AI -applikationens övervakning [1] [11].
6. Kostnadseffektivitet: Genom att integrera med Deepseeks kostnadseffektiva modeller hjälper ny Relic AI-övervakning att minska AI-utvecklingskostnaderna. Det ger insikter i tokenanvändning, vilket är avgörande för att optimera AI -applikationskostnader [4] [11].
Sammantaget förbättrar ny Relic AI-övervakning prestandan för Deepseek-R1-modeller genom att erbjuda en omfattande observerbarhetslösning som förenklar utvecklingen, distributionen och övervakningen av AI-applikationer, samtidigt som man säkerställer tillförlitlighet, kvalitet och kostnadseffektivitet.
Citeringar:
[1] https://newrelic.com/blog/how-to-loth
[2] https://newrelic.com/blog/how-to-torelic/performance-monitoring-newrelic-ai
]
[4] https://newrelic.com/press-release/20250203
]
]
[7] https://radicalDatascience.wordpress.com/tag/deepseek/
[8] https://newrelic.com/blog/nerdlog/ai-monitoring-ga
[9] https://www.linkedin.com/posts/gariano_deploy2
[10] https://newrelic.com/blog/how-to-relic/ai-monitoring
[11] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-deepseek