New Relic's AI -overvågning er designet til at give omfattende synlighed på tværs af AI -stakken, der inkluderer applikationer bygget med Deepseek. Denne kapacitet kan faktisk hjælpe med at identificere flaskehalse i Deepseek -applikationer ved at tilbyde flere nøglefunktioner:
1. fuld AI -stak synlighed: Ny relikvie giver et holistisk overblik over applikationen, infrastrukturen og AI -laget. Dette inkluderer målinger såsom responstider, tokenbrug og fejlhastigheder, som er afgørende for at identificere ydelsesflaskehalse i AI -applikationer som dem, der er bygget med DeepSeek [1] [4].
2. Deep Trace Insights: Platformen tilbyder detaljerede sporingsfunktioner, der giver udviklere mulighed for at spore livscyklus for komplekse AI -svar. Denne funktion er især nyttig til fejlfinding af præstationsproblemer i DeepSeek -modeller ved at analysere, hvordan input behandles, og udgange genereres [7].
3. realtidsindsigt: New Relic's AI-overvågning tilbyder realtidsindsigt over AI-stakken, spanningstjenester, infrastruktur og AI-laget. Dette sikrer effektive, pålidelige og omkostningseffektive operationer ved at tilvejebringe omfattende målinger på gennemstrømning, latenstid og omkostninger [2] [6].
4. Model -sammenligning: Platformen giver mulighed for sammenligning af model, hvilket gør det muligt for udviklere at vurdere ydelsespåvirkningerne, når de skifter mellem AI -modeller. Denne funktion er fordelagtig til optimering af DeepSeek -applikationer ved at vælge de mest effektive modeller baseret på ydeevne og omkostningsmetrik [5] [9].
5. Forbedret datasikkerhed: Ny relikvers overvågning inkluderer funktioner som drop -filtre, der tillader selektiv udelukkelse af følsomme datatyper, sikrer overholdelse og beskyttelse af brugernes privatliv. Dette er vigtigt for at opretholde tillid til AI -applikationer, mens jeg fejlfinding af flaskehalse [1].
6. Pålidelighedssikring og kvalitet: Ved at give fuld synlighed til DeepSeek-drevne AI-applikationsydelse hjælper nye RELIC-virksomheder med at identificere og løse problemer. Denne pålidelighedssikring er kritisk for at opretholde AI-tjenester af høj kvalitet og adressere flaskehalse straks [2] [6].
Generelt er New Relic's AI-overvågning veludstyret til at hjælpe med at identificere og adressere flaskehalse i Deepseek-applikationer ved at tilbyde et omfattende sæt værktøjer til præstationsoptimering, modeludvælgelse og realtidsovervågning.
Citater:
[1] https://docs.newrelic.com/whats-new/2024/03/whats-new-03-28-imonitoringga/
)
)
[4] https://newrelic.com/blog/how-to-relic/ai-in-observability
[5] https://newrelic.com/press-release/20250203
[6] https://ecommercenews.com.au/story/new-relic-unveils-i-monitoring-for-deepseek-applications
[7] https://newrelic.com/blog/nerdlog/ai-monitoring-ga
[8] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-deepseek
[9] https://newrelic.com/platform/ai-monitoring