Ja, ny Relic AI -övervakning kan spåra tokenanvändning för kostnadsoptimering i Deepseek -applikationer. Denna kapacitet är en del av New Relics omfattande observerbarhetslösning utformad specifikt för att övervaka Deepseek, en generativ AI (GENAI) -modell. Genom att integrera New Relics AI -övervakning med Deepseek kan företag få full synlighet i sina AI -applikationer, inklusive nyckelmätningar som tokenanvändning, genomströmning, latens och kostnader. Denna integration stöder Deepseek och Deepseek på Microsoft Azure AI Foundry, vilket ger en förenklad installation med förbättrad datasäkerhet [1] [2] [4].
Spårningstokenanvändning för kostnadsoptimering:
New Relics AI -övervakning gör det möjligt för företag att spåra tokenanvändning, vilket är avgörande för att hantera AI -utvecklingskostnader. Tokenanvändning är en viktig faktor för att bestämma kostnaden för att köra AI -modeller, eftersom många AI -tjänster laddar baserat på antalet bearbetade tokens. Genom att övervaka tokenanvändning kan företag optimera sina AI -kostnader genom att identifiera områden där tokenanvändningen kan minskas utan att kompromissa med prestanda. Denna kapacitet gör det också möjligt för företag att fatta välgrundade beslut om modellval och distribution, vilket säkerställer att de väljer de mest kostnadseffektiva modellerna för sina applikationer [5] [8].
Fördelar med ny Relic AI -övervakning för Deepseek:
1. Tillförlitlighetsförsäkring och kvalitet: New Relic ger full synlighet i Deepseek-driven AI-applikationsprestanda, vilket gör att företag snabbt kan identifiera och lösa problem. Detta säkerställer att applikationer körs pålitligt och upprätthåller hög kvalitet [1] [4].
2. Kostnadsoptimering: Genom att spåra tokenanvändning och andra kostnadsrelaterade mätvärden kan företag optimera sina AI-utvecklingskostnader. Detta är särskilt viktigt när man använder kostnadseffektiva modeller som Deepseek, som erbjuder avancerade resonemangsförmågor till en lägre kostnad [1] [5].
3. Förtroende för modellbyte: New Relics modelljämförelsefunktioner gör det möjligt för företag att bedöma effekterna av växling mellan AI -modeller på prestanda och kostnader. Detta hjälper till att fatta välgrundade beslut om vilka modeller som ska distribueras och när de ska växla, se till att de valda modellerna är i linje med affärsbehov och budgetbegränsningar [4] [5].
4. Accelererad innovation: Kombinationen av New Relics AI -övervakning och Deepseeks öppna modeller påskyndar AI -innovation och distribution. Detta gör det möjligt för företag att anta och optimera AI -teknologier mer effektivt, driva snabbare innovation och upprätthålla en konkurrensfördel på marknaden [1] [7].
Sammantaget tillhandahåller New Relics AI -övervakning för Deepseek -applikationer en robust lösning för att optimera AI -kostnader genom spårning av tokenanvändning, bland andra fördelar, vilket hjälper företag att navigera i det komplexa AI -landskapet effektivt.
Citeringar:
]
]
[3] https://docs.newrelic.com/docs/ai-monitoring/explore-ai-data/view-ai-responses/
[4] https://newrelic.com/press-release/20250203
]
]
[7] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-deepseek
[8] https://newrelic.com/blog/how-to-loth