Ja, ny Relic AI -overvågning kan spore brug af token til omkostningsoptimering i DeepSeek -applikationer. Denne kapacitet er en del af New Relics omfattende observerbarhedsløsning designet specifikt til overvågning af Deepseek, en generativ AI (Genai) -model. Ved at integrere New Relics AI -overvågning med DeepSeek kan virksomheder få fuld synlighed i deres AI -applikationer, herunder nøglemetrik som token -brug, gennemstrømning, latenstid og omkostninger. Denne integration understøtter Deepseek og Deepseek på Microsoft Azure AI Foundry, hvilket giver et forenklet opsætning med forbedret datasikkerhed [1] [2] [4].
Sporing af tokenbrug til omkostningsoptimering:
New Relic's AI -overvågning giver virksomheder mulighed for at spore tokenbrug, som er afgørende for styring af AI -udviklingsomkostninger. Tokenbrug er en betydelig faktor til bestemmelse af omkostningerne ved at køre AI -modeller, da mange AI -tjenester opkræves baseret på antallet af forarbejdede tokens. Ved at overvåge tokenbrug kan virksomheder optimere deres AI -omkostninger ved at identificere områder, hvor tokenbrug kan reduceres uden at gå på kompromis med ydelsen. Denne kapacitet gør det også muligt for virksomheder at tage informerede beslutninger om valg af model og implementering, hvilket sikrer, at de vælger de mest omkostningseffektive modeller til deres applikationer [5] [8].
Fordele ved ny Relic AI -overvågning til DeepSeek:
1. Pålidelighedssikring og kvalitet: Ny relikvie giver fuld synlighed i Deepseek-drevne AI-applikationsydelse, så virksomhederne hurtigt kan identificere og løse problemer. Dette sikrer, at applikationer kører pålideligt og opretholder høj kvalitet [1] [4].
2. Omkostningsoptimering: Ved at spore tokenbrug og andre omkostningsrelaterede målinger kan virksomheder optimere deres AI-udviklingsomkostninger. Dette er især vigtigt, når man bruger omkostningseffektive modeller som Deepseek, der tilbyder avancerede ræsonnementsfunktioner til en lavere pris [1] [5].
3. Tillid til Model Switching: New Relic's model -sammenligningsfunktioner giver virksomhederne mulighed for at vurdere virkningen af at skifte mellem AI -modeller på ydeevne og omkostninger. Dette hjælper med at tage informerede beslutninger om, hvilke modeller der skal implementeres, og hvornår de skal skifte, hvilket sikrer, at de valgte modeller er i overensstemmelse med forretningsbehov og budgetbegrænsninger [4] [5].
4. Accelerated Innovation: Kombinationen af New Relic's AI -overvågning og Deepseeks åbne modeller fremskynder AI -innovation og implementering. Dette gør det muligt for virksomheder at vedtage og optimere AI -teknologier mere effektivt, køre hurtigere innovation og opretholde en konkurrencefordel på markedet [1] [7].
Generelt giver New Relics AI -overvågning til DeepSeek -applikationer en robust løsning til optimering af AI -omkostninger gennem token -brugssporing, blandt andre fordele, hvilket hjælper virksomheder med at navigere i det komplekse AI -landskab effektivt.
Citater:
)
)
[3] https://docs.newrelic.com/docs/ai-monitoring/explore-i-data/view-i-responses/
[4] https://newrelic.com/press-release/20250203
[5] https://ecommercenews.com.au/story/new-relic-unveils-i-monitoring-for-deepseek-applications
)
[7] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-deepseek
[8] https://newrelic.com/blog/how-to-relic/deploy-depseek-models-locally-and-monitor-with-new-relic-i-monitorering