Opsætning af ny Relic AI -overvågning til en Deepseek -applikation involverer flere centrale trin, der hjælper dig med at få omfattende synlighed i din AI -applikations ydelse, kvalitet og omkostninger. Her er en detaljeret guide til, hvordan man indstiller den:
Trin 1: Instrument din dybseek -applikation
For at begynde at overvåge din Deepseek -applikation med ny relikvie skal du først instrument din ansøgning. Dette involverer at integrere New Relic's Application Performance Monitoring (APM) -agenter i din applikation. Da Deepseek bruger et OpenAI-kompatibelt API, kan du bruge Openai SDK i din ansøgning om lettere integration med ny Relic [2].1. Tilmeld dig eller log ind: Begynd med at tilmelde dig en ny Relic -konto eller logge ind, hvis du allerede har en.
2. Adgang Integrations & Agents: Naviger til afsnittet Integrations & Agents i dit nye Relic Dashboard.
3. Vælg Openai Integration: I søgefeltet skal du skrive Openai og vælge den. Dette skyldes, at DeepSeek -modeller er kompatible med Openai API'er.
4. Vælg dit programmeringssprog: Vælg det programmeringssprog, der bruges af din applikation (f.eks. Python, Node.js).
5. Følg Guided Onboarding: Følg den guidede onboarding -proces leveret af ny relikvie til instrumentet din ansøgning. Denne proces leder dig gennem opsætning af de nødvendige konfigurationer til AI -overvågning [2].
Trin 2: Adgang til AI -overvågning
Når din applikation er instrumenteret, kan du begynde at bruge ny Relic AI -overvågning:1. Naviger til AI -overvågning: Gå til alle muligheder i dit nye Relic Dashboard, og klik på AI -overvågning.
2. Vælg din ansøgning: I AI-overvågningsafsnittet skal du vælge din DeepSeek-applikation (f.eks. "DeepSeek-Local") under alle enheder for at se dens ydelsesdata [2].
Trin 3: Evaluer ydeevne, kvalitet og omkostninger
Når din applikation er oprettet, kan du nu evaluere nøglemetriks:1. APM 360 SAMMENDRAG: Se APM 360 -resume for indsigt i målinger som anmodninger, responstider, tokenbrug og fejlrater. Dette hjælper med at identificere problemer hurtigt [2].
2. Deep Tracing View: Klik på AI -svar i APM 360 -resume for at se detaljerede spor fra brugerinput til den endelige respons, herunder metadata som token -tællinger og modelinformation [2].
3. Modelkvalitetsevaluering: Analyser Large Language Model (LLM) svar til at identificere problemer såsom toksicitet eller negativitet, skønt denne funktion i øjeblikket er i begrænset forhåndsvisning [2].
Trin 4: Sammenlign modeller
Ny relikvie giver dig mulighed for at sammenligne forskellige AI -modeller for at optimere ydeevne og omkostninger:1. Model -sammenligning: Brug nye Relic's model -sammenligningsmuligheder til at vurdere, hvordan skift mellem modeller påvirker din applikations ydelse og omkostninger. Dette hjælper med at vælge den mest passende model til dine behov [3] [10].
Trin 5: Sørg for databeskyttelse og sikkerhed
For at beskytte følsomme data kan du konfigurere drop -filtre:1. Opret drop -filtre: Naviger til drop -filtre og opret filtre for at ekskludere følsomme data (f.eks. Personlige identificerbare oplysninger) fra dine AI -anmodninger og svar [2].
Ved at følge disse trin kan du effektivt oprette ny Relic AI -overvågning til din DeepSeek -applikation og få værdifuld indsigt i dens ydelse og samtidig sikre databeskyttelse og sikkerhed.
Citater:
[1] https://docs.newrelic.com/install/ai-monitoring/
)
)
[4] https://newrelic.com/blog/how-to-relic/ai-monitoring-for-nvidia-nim
)
[6] https://newrelic.com/blog/how-to-relic/monitor-and-optimize-complex-web-apps-with-new-relic
[7] https://newrelic.com/blog/how-to-relic/ai-monitoring
[8] https://ecommercenews.com.au/story/new-relic-unveils-i-monitoring-for-deepseek-applications
[9] https://docs.newrelic.com/docs/ai-monitoring/intro-to-i-monitoring/
[10] https://newrelic.com/press-release/20250203