Die KI -Überwachung von New Relic ist so konzipiert, dass sie eine umfassende Sichtbarkeit im gesamten KI -Stack bietet, einschließlich Anwendungen, die mit Deepseek gebaut wurden. Diese Funktion kann tatsächlich dazu beitragen, Engpässe in Deepseek -Anwendungen zu identifizieren, indem mehrere wichtige Funktionen anbieten:
1. Sichtbarkeit der vollständigen KI -Stapel: New Relic bietet eine ganzheitliche Sicht auf die Anwendung, die Infrastruktur und die KI -Schicht. Dies umfasst Metriken wie Reaktionszeiten, Token -Nutzung und Fehlerraten, die für die Identifizierung von Leistungs Engpässen in AI -Anwendungen wie denen von Deepseek [1] [4] entscheidend sind.
2. Deep Trace Insights: Die Plattform bietet detaillierte Nachverfolgungsfunktionen, mit denen Entwickler den Lebenszyklus komplexer KI -Antworten verfolgen können. Diese Funktion ist besonders nützlich für die Fehlerbehebung bei Leistungsproblemen in Deepseek -Modellen, indem analysiert wird, wie Eingaben verarbeitet und die Ausgaben generiert werden [7].
3.. Echtzeit-Erkenntnisse: Die KI-Überwachung von New Relic bietet Echtzeit-Erkenntnisse im gesamten KI-Stack, Spanning Services, Infrastruktur und die KI-Schicht. Dies gewährleistet effiziente, zuverlässige und kostengünstige Vorgänge, indem sie umfassende Metriken zu Durchsatz, Latenz und Kosten bereitstellen [2] [6].
4. Modellvergleich: Die Plattform ermöglicht den Modellvergleich, sodass Entwickler die Leistungsauswirkungen beim Wechsel zwischen KI -Modellen bewerten können. Diese Funktion ist vorteilhaft, um Deepseek -Anwendungen zu optimieren, indem die effizientesten Modelle basierend auf Leistungsmetriken und Kostenmetriken ausgewählt werden [5] [9].
5. Verbesserte Datensicherheit: Die Überwachung von New Relic umfasst Funktionen wie Tropfenfilter, die selektiven Ausschluss sensibler Datentypen ermöglichen, um die Einhaltung der Einhaltung und den Schutz der Privatsphäre des Benutzers zu gewährleisten. Dies ist wichtig für die Aufrechterhaltung des Vertrauens in AI -Anwendungen bei der Fehlerbehebung bei Engpässen [1].
6. Zuverlässigkeitssicherung und -qualität: Durch die vollständige Sichtbarkeit in die Leistung von Deekseek-betriebenem AI-Anwendungsleistung hilft New Relic Unternehmen dabei, Probleme schnell zu identifizieren und zu lösen. Diese Zuverlässigkeitssicherung ist entscheidend für die Aufrechterhaltung hochwertiger KI-Dienste und die Bekämpfung von Engpässen sofort [2] [6].
Insgesamt ist die KI-Überwachung von New Relic gut ausgestattet, um Engpässe in Deepseek-Anwendungen zu identifizieren und zu beheben, indem ein umfassender Satz von Tools für die Leistungsoptimierung, die Modellauswahl und die Echtzeitüberwachung angeboten wird.
Zitate:
[1] https://docs.newrelic.com/whats-new/2024/03/whats-new-03-28-aimonitoringga/
[2] https://theexchangeasic.com/new-relic-unveils-first-ever-ai-observability-for-peepseek/
[3] https://newrelic.com/blog/how-to--relic/deploy-yepseek-models-locally-and-monitor-new-new-relic-ai-monitoring
[4] https://newrelic.com/blog/how-to--relic/ai-in-oBservability
[5] https://newrelic.com/press-release/20250203
[6] https://ecommercenews.com.au/story/new-relic-unveils-ai-monitoring-for-pepseek-anapplications
[7] https://newrelic.com/blog/nerdlog/ai-monitoring-ga
[8] https://www.computerweekly.com/News/366618774/new-relic-utends-oBservability-to-yepseek
[9] https://newrelic.com/platform/ai-monitoring