De AI -monitoring van New Relic is ontworpen om uitgebreide zichtbaarheid te bieden in de AI Stack, waaronder toepassingen die zijn gebouwd met Deepseek. Deze mogelijkheid kan inderdaad helpen bij het identificeren van knelpunten in Deepseek -toepassingen door verschillende belangrijke functies aan te bieden:
1. Volledige AI Stack Zichtbaarheid: Nieuw relikwie biedt een holistisch beeld over de toepassing, infrastructuur en de AI -laag. Dit omvat statistieken zoals responstijden, tokengebruik en foutenpercentages, die cruciaal zijn voor het identificeren van knelpunten van prestaties in AI -toepassingen zoals die gebouwd met Deepseek [1] [4].
2. Diepe trace -inzichten: het platform biedt gedetailleerde traceringsmogelijkheden waarmee ontwikkelaars de levenscyclus van complexe AI -reacties kunnen volgen. Deze functie is met name handig voor het oplossen van problemen met het oplossen van prestaties in DeepSeek -modellen door te analyseren hoe inputs worden verwerkt en outputs worden gegenereerd [7].
3. Real-time inzichten: de AI-monitoring van New Relic biedt realtime inzichten over de AI-stack, spanning-diensten, infrastructuur en de AI-laag. Dit zorgt voor efficiënte, betrouwbare en kosteneffectieve activiteiten door uitgebreide statistieken te bieden over doorvoer, latentie en kosten [2] [6].
4. Modelvergelijking: het platform maakt modelvergelijking mogelijk, waardoor ontwikkelaars de prestatie -effecten kunnen beoordelen bij het schakelen tussen AI -modellen. Deze functie is gunstig voor het optimaliseren van Deepseek -toepassingen door de meest efficiënte modellen te selecteren op basis van prestaties en kostenstatistieken [5] [9].
5. Verbeterde gegevensbeveiliging: de monitoring van New Relic bevat functies zoals dropfilters die selectieve uitsluiting van gevoelige gegevenstypen mogelijk maken, de naleving en het beschermen van de privacy van de gebruikers te waarborgen. Dit is belangrijk voor het handhaven van het vertrouwen in AI -toepassingen tijdens het oplossen van bottlenecks [1].
6. Betrouwbaarheidsborging en kwaliteit: door volledige zichtbaarheid te bieden aan de diepe AI-applicatieprestaties van deepseek, helpt nieuwe relikwie bedrijven snel problemen te identificeren en op te lossen. Deze betrouwbaarheidsborging is van cruciaal belang voor het handhaven van hoogwaardige AI-diensten en het onmiddellijk aanpakken van knelpunten [2] [6].
Over het algemeen is de AI-monitoring van New Relic goed uitgerust om knelpunten te helpen identificeren en aan te pakken in Deepseek-toepassingen door een uitgebreide set tools te bieden voor prestatie-optimalisatie, modelselectie en realtime monitoring.
Citaten:
[1] https://docs.newrelic.com/whats-new/2024/03/whats-new-03-28-aimonitoringga/
[2] https://theexchangeasia.com/new-relic-unveils-first-ever-Ai-Observability-for-deepseek/
[3] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoringing
[4] https://newrelic.com/blog/how-to-relic/ai-in-observability
[5] https://newrelic.com/press-release/20250203
[6] https://ecommercenews.com.au/story/new-relic-unveils-ai-monitoring-for-Deepseek-applications
[7] https://newrelic.com/blog/nerdlog/ai-monitoring-ga
[8] https://www.computerweekly.com/news/366618774/new-relic-extend-observability-to-Deepseek
[9] https://newrelic.com/platform/ai-monitoringing