Å sette opp ny relikvie AI -overvåking for en DeepSeek -applikasjon innebærer flere viktige trinn som hjelper deg å få omfattende synlighet i AI -applikasjonens ytelse, kvalitet og kostnader. Her er en detaljert guide for hvordan du konfigurerer den:
Trinn 1: Instrument din DeepSeek -applikasjon
For å begynne å overvåke din DeepSeek -applikasjon med New Relic, må du først instrumentere søknaden din. Dette innebærer å integrere New Relics APM -applikasjonsovervåkning (APM) i søknaden din. Siden DeepSeek bruker et Openai-kompatibelt API, kan du bruke Openai SDK i applikasjonen din for enklere integrasjon med New Relic [2].1. Registrer deg eller logg inn: Begynn med å registrere deg for en ny relikvekonto eller logge deg på hvis du allerede har en.
2. Access Integrations & Agents: Naviger til delen Integrasjoner og agenter i ditt nye Relic Dashboard.
3. Velg Openai -integrasjon: Skriv inn Openai og velg den. Dette er fordi DeepSeek -modeller er kompatible med Openai API -er.
4. Velg programmeringsspråk: Velg programmeringsspråket som brukes av applikasjonen din (f.eks. Python, Node.js).
5. Følg guidet ombord: Følg den guidede ombordprosessen levert av New Relic for å instrumentere søknaden din. Denne prosessen vil lede deg gjennom å sette opp de nødvendige konfigurasjonene for AI -overvåking [2].
Trinn 2: Få tilgang til AI -overvåking
Når søknaden din er instrumentert, kan du begynne å bruke ny Relic AI -overvåking:1. Naviger til AI -overvåking: Gå til alle muligheter i det nye relikvet dashbord og klikk på AI -overvåking.
2. Velg søknaden din: I AI-overvåkingsseksjonen, under alle enheter, velger du DEEPSEEK-applikasjonen (f.eks. "DeepSeek-Local") for å se resultatdataene [2].
Trinn 3: Evaluer ytelse, kvalitet og kostnad
Med applikasjonen din satt opp, kan du nå evaluere nøkkelmålinger:1. APM 360 Sammendrag: Se APM 360 Sammendrag for innsikt i beregninger som forespørsler, responstider, tokenbruk og feilrater. Dette hjelper til med å identifisere problemer raskt [2].
2. Dyp sporingsvisning: Klikk på AI -svar i APM 360 -sammendraget for å se detaljerte spor fra brukerinngang til endelig respons, inkludert metadata som tokentall og modellinformasjon [2].
3. Modellkvalitetsevaluering: Analyser svar på stor språkmodell (LLM) for å identifisere problemer som toksisitet eller negativitet, selv om denne funksjonen for øyeblikket er i begrenset forhåndsvisning [2].
Trinn 4: Sammenlign modeller
Ny relikvie lar deg sammenligne forskjellige AI -modeller for å optimalisere ytelse og kostnad:1. Modellsammenligning: Bruk New Relics modellsammenligningsfunksjoner for å vurdere hvordan veksling mellom modeller påvirker applikasjonens ytelse og kostnader. Dette hjelper med å velge den mest passende modellen for dine behov [3] [10].
Trinn 5: Sørg for personvern og sikkerhet for data
For å beskytte sensitive data, kan du konfigurere Drop -filtre:1. Lag slippfilter: Naviger til slippfiltre og lag filtre for å ekskludere sensitive data (f.eks. Personlig identifiserbar informasjon) fra dine AI -forespørsler og svar [2].
Ved å følge disse trinnene, kan du effektivt sette opp ny relikvie AI -overvåking for din DeepSeek -applikasjon, og få verdifull innsikt i ytelsen, samtidig som du sikrer personvern og sikkerhet.
Sitasjoner:
[1] https://docs.newrelic.com/install/ai-monitoring/
[2] https://newrelic.com/blog/how-to-relic/Deploy-depseek-models-locally-and-monitor-with-new-relic-ai-monitoring
[3] https://cxotoday.com/press-release/new-relic-announces-the-industrys- bare-observability-integration-with-depseek-to-accelerate-ai-adoption- and-roi/
[4] https://newrelic.com/blog/how-to-relic/ai-monitoring-for-nvidia-nim
[5] https://www.dqchannels.com/news/new-relic-introduces-observability-solution-for-peepseek-ai-monitoring-8689063
[6] https://newrelic.com/blog/how-to-relic/monitor-and-optimize-complex-web-apps-with-new-relic
[7] https://newrelic.com/blog/how-to-relic/ai-monitoring
[8] https://ecommercenews.com.au/story/new-relic-unveils-ai-Monitoring-for-pedseek-applications
[9] https://docs.newrelic.com/docs/ai-monitoring/intro-to-ai-monitoring/
[10] https://newrelic.com/press-release/20250203