Ja, nieuwe Relic AI -monitoring kan het gebruik van het token volgen voor kostenoptimalisatie in Deepseek -toepassingen. Deze mogelijkheid maakt deel uit van de uitgebreide waarneembaarheidsoplossing van New Relic, speciaal ontworpen voor het bewaken van Deepseek, een generatief AI (GenAI) -model. Door de AI -monitoring van New Relic te integreren met Deepseek, kunnen bedrijven volledig zichtbaarheid krijgen in hun AI -toepassingen, inclusief belangrijke statistieken zoals tokengebruik, doorvoer, latentie en kosten. Deze integratie ondersteunt Deepseek en Deepseek op Microsoft Azure AI Foundry, en biedt een vereenvoudigde opstelling met verbeterde gegevensbeveiliging [1] [2] [4].
Gebruik van tokengebruik voor kostenoptimalisatie:
Met de AI -monitoring van New Relic kunnen bedrijven het gebruik van token volgen, wat cruciaal is voor het beheren van AI -ontwikkelingskosten. Token -gebruik is een belangrijke factor bij het bepalen van de kosten voor het uitvoeren van AI -modellen, omdat veel AI -services in rekening brengen op basis van het aantal verwerkte tokens. Door het gebruik van token te volgen, kunnen bedrijven hun AI -kosten optimaliseren door gebieden te identificeren waar tokengebruik kan worden verminderd zonder de prestaties in gevaar te brengen. Deze mogelijkheid stelt bedrijven ook in staat om geïnformeerde beslissingen te nemen over modelselectie en implementatie, zodat ze de meest kosteneffectieve modellen voor hun applicaties kiezen [5] [8].
Voordelen van nieuw relikwie AI -monitoring voor Deepseek:
1. Betrouwbaarheidsborging en kwaliteit: nieuw relikwie biedt volledige zichtbaarheid in diepeek-aangedreven AI-applicatieprestaties, waardoor bedrijven snel problemen kunnen identificeren en oplossen. Dit zorgt ervoor dat applicaties betrouwbaar worden uitgevoerd en van hoge kwaliteit handhaven [1] [4].
2. Kostenoptimalisatie: door het gebruik van token en andere kostengerelateerde statistieken te volgen, kunnen bedrijven hun AI-ontwikkelingskosten optimaliseren. Dit is vooral belangrijk bij het gebruik van kosteneffectieve modellen zoals Deepseek, die geavanceerde redeneermogelijkheden bieden tegen lagere kosten [1] [5].
3. Vertrouwen in modelwisseling: de functies Model Vergelijking van New Relic kunnen bedrijven de impact van het schakelen tussen AI -modellen op prestaties en kosten beoordelen. Dit helpt bij het nemen van geïnformeerde beslissingen over welke modellen te implementeren en wanneer ze moeten worden overgewisseld, zodat de gekozen modellen aansluiten bij zakelijke behoeften en budgetbeperkingen [4] [5].
4. Versnelde innovatie: de combinatie van de AI -monitoring van New Relics en de open modellen van Deepseek versnelt AI -innovatie en -implementatie. Dit stelt bedrijven in staat om AI -technologieën efficiënter aan te nemen en te optimaliseren, snellere innovatie te stimuleren en een concurrentievoordeel op de markt te behouden [1] [7].
Over het algemeen biedt de AI -monitoring van New Relic voor deepseek -toepassingen een robuuste oplossing voor het optimaliseren van AI -kosten door het volgen van tokengebruik, onder andere, om bedrijven te helpen door het complexe AI -landschap te navigeren.
Citaten:
[1] https://theexchangeasia.com/new-relic-unveils-first-ever-Ai-Observability-for-deepseek/
[2] https://www.dqchannels.com/news/new-relic-introduces-observabiliteit-solution-for-deepeek-ai-onitoring-8689063
[3] https://docs.newrelic.com/docs/ai-monitoring/explore-ai-data/view-ai-responses/
[4] https://newrelic.com/press-release/20250203
[5] https://ecommercenews.com.au/story/new-relic-unveils-ai-monitoring-for-Deepseek-applications
[6] https://blog.devops.dev/aws-observability-tools-for-bedrock-large-Language-Models-D732363993FD
[7] https://www.computerweekly.com/news/366618774/new-relic-extend-observability-to-Deepseek
[8] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoringing