Ja, eine neue Relikt -KI -Überwachung kann die Token -Nutzung für die Kostenoptimierung in Deepseek -Anwendungen verfolgen. Diese Fähigkeit ist Teil der umfassenden Beobachtbarkeitslösung von New Relic, die speziell für die Überwachung von Deepseek, einem generativen AI (Genai) -Modell, entwickelt wurde. Durch die Integration der KI -Überwachung von New Relic in Deepseek können Unternehmen ihre KI -Anwendungen, einschließlich wichtiger Metriken wie Token -Nutzung, Durchsatz, Latenz und Kosten, vollständige Sichtbarkeit erlangen. Diese Integration unterstützt Deepseek und Deepseek auf Microsoft Azure AI Foundry und bietet ein vereinfachtes Setup mit erweiterter Datensicherheit [1] [2] [4].
Tracking -Token -Nutzung zur Kostenoptimierung:
Die KI -Überwachung von New Relic ermöglicht es Unternehmen, die Token -Nutzung zu verfolgen, was für die Verwaltung der KI -Entwicklungskosten von entscheidender Bedeutung ist. Die Nutzung der Token ist ein wesentlicher Faktor für die Bestimmung der Kosten für den Betrieb von KI -Modellen, da viele KI -Dienste aufgrund der Anzahl der verarbeiteten Token berechnen. Durch die Überwachung der Token -Nutzung können Unternehmen ihre KI -Kosten optimieren, indem sie Bereiche identifizieren, in denen die Nutzung der Token ohne Kompromisse reduziert werden kann. Diese Fähigkeit ermöglicht es Unternehmen auch, fundierte Entscheidungen über die Modellauswahl und die Bereitstellung zu treffen, um sicherzustellen, dass sie die kostengünstigsten Modelle für ihre Anwendungen auswählen [5] [8].
Vorteile der neuen Relikt -KI -Überwachung für Deepseek:
1. Zuverlässigkeit und Qualität: New Relic bietet vollständige Sichtbarkeit in die Leistung von Deepseek-betriebenes KI-Anwendungsleistung, sodass Unternehmen Probleme schnell identifizieren und beheben können. Dies stellt sicher, dass Anwendungen zuverlässig laufen und hohe Qualität aufrechterhalten [1] [4].
2. Kostenoptimierung: Durch die Verfolgung der Token-Nutzung und andere kostenbezogene Metriken können Unternehmen ihre KI-Entwicklungskosten optimieren. Dies ist besonders wichtig, wenn kostengünstige Modelle wie Deepseek verwendet werden, die erweiterte Argumentationsfunktionen zu geringeren Kosten bieten [1] [5].
3. Vertrauen in das Modellumschalten: Die Modellvergleichsfunktionen von New Relic ermöglichen es Unternehmen, die Auswirkungen des Wechsels zwischen KI -Modellen auf Leistung und Kosten zu bewerten. Dies hilft dabei, fundierte Entscheidungen darüber zu treffen, welche Modelle eingesetzt werden sollen und wann sie wechseln sollen, um sicherzustellen, dass die ausgewählten Modelle mit den Geschäftsbedürfnissen und Budgetbeschränkungen übereinstimmen [4] [5].
4. Beschleunigte Innovation: Die Kombination aus der KI -Überwachung von New Relic und Deepseeks offene Modelle beschleunigt die KI -Innovation und den Einsatz. Dies ermöglicht es Unternehmen, KI -Technologien effizienter einzusetzen und zu optimieren, schnellere Innovationen zu fördern und einen Wettbewerbsvorteil auf dem Markt zu erhalten [1] [7].
Insgesamt bietet die KI -Überwachung von New Relic für Deepseek -Anwendungen eine robuste Lösung für die Optimierung der KI -Kosten durch Token -Nutzungsverfolgung unter anderem und dabei, die Unternehmen effektiv durch die komplexe KI -Landschaft zu navigieren.
Zitate:
[1] https://theexchangeasic.com/new-relic-unveils-first-ever-ai-observability-for-peepseek/
[2] https://www.dqchannels.com/news/new-relic-introduces-observability-solution-for-peepseek-ai-monitoring-8689063
[3] https://docs.newrelic.com/docs/ai-monitoring/explore-ai-data/view-ai-responses/
[4] https://newrelic.com/press-release/20250203
[5] https://ecommercenews.com.au/story/new-relic-unveils-ai-monitoring-for-pepseek-anapplications
[6] https://blog.devops.dev/aws-oBservability-tools-for-bedrock-large-language-models-d732363993fd
[7] https://www.computerweekly.com/News/366618774/new-relic-utends-oBservability-t-tepseek
[8] https://newrelic.com/blog/how-to--relic/deploy-yepseek-models-locally-and-monitor-new-new-relic-ai-monitoring