Das Modellvergleichsfunktion von New Relic bietet Entwicklern und Unternehmen ein umfassendes Toolset zur Bewertung und Optimierung von AI-Anwendungen, wenn sie in Deepseek-R1 integriert sind. So funktioniert es:
Überblick über die KI -Überwachung von New Relic
New Relic bietet eine robuste Beobachtbarkeitsplattform, die seine Unterstützung für Deepseek-Modelle, einschließlich Deepseek-R1, ausdehnt. Mit dieser Integration können Benutzer Anwendungen überwachen, die auf diesen Modellen in Echtzeit basieren und Einblicke in die Leistungs-, Qualitäts- und Kostenmetriken geben [1] [2]. Die Plattform unterstützt eine breite Palette von KI -Modellen, darunter OpenAI, Claude und AWS Bedrock, was es zu einem vielseitigen Werkzeug für die Verwaltung verschiedener KI -Ökosysteme macht [7].
Schlüsselmerkmale des Modellvergleichs
1. Leistungsbewertung: Die KI-Überwachung von New Relic ermöglicht es Benutzern, zu bewerten, wie unterschiedliche Modelle wie Deepseek-R1 über verschiedene Benchmarks und Aufgaben hinweg ausgeführt werden. Dies umfasst die Bewertung von Metriken wie Durchsatz und Latenz, die für die Gewährleistung eines effizienten Anwendungsbetriebs entscheidend sind [5] [7].
2. Kostenoptimierung: Die Plattform bietet detaillierte Einblicke in die Token-Nutzung und andere kostenbezogene Metriken. Dies hilft Unternehmen, ihre KI -Ausgaben zu optimieren, indem sie Modelle auswählen, die das beste Gleichgewicht zwischen Leistung und Kosten bieten. Deepseek-Modelle, die kostengünstig sind, profitieren erheblich von diesem Merkmal [1] [7].
3.. Modellschaltvertrauen: Eine der herausragenden Funktionen der Integration von New Relic ist die Fähigkeit, Benutzern zu helfen, mit Zuversicht zwischen verschiedenen KI -Modellen zu wechseln. Durch den Vergleich der Auswirkungen von Schaltmodellen auf die Anwendungsleistung und die Nutzung von Token können Entwickler fundierte Entscheidungen darüber treffen, welche Modelle ihre Anwendungen am besten entsprechen [7].
4. Sichtbarkeit in Echtzeit: New Relic bietet eine Echtzeitansicht des AI-Anwendungsstapels, der Dienste, Infrastruktur und KI-Schicht abdeckt. Diese umfassende Sichtbarkeit stellt sicher, dass Probleme schnell identifiziert und gelöst werden können und die Zuverlässigkeit und Qualität in AI-angetriebenen Anwendungen aufrechterhalten [2] [7].
Integrationsprozess
Um Deepseek -Modelle in die neue Relic -KI -Überwachung zu integrieren, folgen Benutzer in der Regel folgende Schritte:
- Melden Sie sich an oder melden Sie sich an: Benutzer beginnen sich zunächst für ein neues Reliktkonto oder protokollieren Sie, wenn sie bereits eines haben.
- Wählen Sie Integration: Sie navigieren dann zum Abschnitt "Integrationen & Agenten" und suchen nach OpenAI, da Deepseek-Modelle eine OpenAI-kompatible API verwenden.
- Instrument Die Anwendung: Benutzer folgen dem geführten Onboarding -Prozess, um ihre mit Deepseek erstellte KI -Anwendung zu instrumentieren, die die Integration des neuen Relic -Agenten in den Anwendungscode [1] umfasst.
Vorteile für Deepseek-R1-Benutzer
Die Integration von New Relic in Deepseek-R1 bietet mehrere Vorteile:
-Verbesserte Leistungsüberwachung: Benutzer können die Leistung von Deepseek-R1 in Echtzeit überwachen und sicherstellen, dass das Modell in ihren Anwendungen effizient funktioniert.
.
- Informierte Entscheidungsfindung: Die Modellvergleichsfunktion hilft den Benutzern, zu entscheiden, ob sie sich an Deepseek-R1 halten oder auf andere Modelle wechseln sollen, basierend auf Leistungsmetriken und Kostenmetriken [2] [5].
Insgesamt ermöglicht die Modellvergleichsfunktion von New Relic, kombiniert mit Deepseek-R1, Entwicklern, KI-Anwendungen effektiv zu optimieren, um sicherzustellen, dass sie KI-Technologien schnell einführen und eine schnellere Rendite in Investition (ROI) erzielen können [7].
Zitate:
[1] https://newrelic.com/blog/how-to--relic/deploy-yepseek-models-locally-and-monitor-new-new-relic-ai-monitoring
[2] https://newrelic.com/press-release/20250203
[3] https://www.byteplus.com/en/topic/386424
[4] https://www.prompthub.us/blog/deepseek-r-1-model-overview-and-how-it-ranks-against-openais-o1
[5] https://www.linkedin.com/posts/gariano_deploy-yepseek-models-locally-and-monitor-activity-7292645533943226369-Btjh
[6] https://www.reddit.com/r/deepseek/comments/1ik7vvt/im_a_complete_novice_to_ai_can_someone_explain_in/
[7] https://www.bigdatawire.com/this-just-in/new-relic-expands-ai-observability-bithepseek-integration/
[8] https://www.sdxcentral.com/articles/news/new-relic-announces-the-industrys-only-observability-integration-with-teepseek-toccelerate-ai-adoption-and-25/02/02/
[9] https://www.computerweekly.com/news/366618774/new-relic-utends-oBservability-t-tepseek