Configurarea unei noi monitorizări AI Relic pentru o aplicație DeepSeek implică mai mulți pași cheie care vă ajută să obțineți o vizibilitate cuprinzătoare în performanța, calitatea și costurile aplicației AI. Iată un ghid detaliat despre cum să -l configurați:
Pasul 1: Instrumentează aplicația dvs. Deepseek
Pentru a începe să vă monitorizați aplicația Deepseek cu New Relic, trebuie mai întâi să vă instrumentați aplicația. Aceasta implică integrarea agenților de monitorizare a performanței aplicației (APM) de la New Relic (APM) în aplicația dvs. Deoarece Deepseek folosește o API-compatibilă OpenAI, puteți utiliza OpenAI SDK în aplicația dvs. pentru o integrare mai ușoară cu noua relicvă [2].1. Înscrieți -vă sau conectați -vă: începeți prin înscrierea la un nou cont Relic sau conectați -vă dacă aveți deja unul.
2. Accesați integrări și agenți: navigați la secțiunea Integrări și agenți din noul tablou de bord Relic.
3. Selectați Integrarea OpenAI: În bara de căutare, tastați OpenAI și selectați -o. Acest lucru se datorează faptului că modelele Deepseek sunt compatibile cu API -urile OpenAI.
4. Alegeți limbajul dvs. de programare: selectați limbajul de programare folosit de aplicația dvs. (de exemplu, Python, Node.js).
5. Urmați ghidat la bord: Urmați procesul ghidat de bord furnizat de New Relic pentru a instrumenta aplicația. Acest proces vă va parcurge prin configurarea configurațiilor necesare pentru monitorizarea AI [2].
Pasul 2: Accesați monitorizarea AI
După ce aplicația dvs. este instrumentată, puteți începe să utilizați o nouă monitorizare AI Relic:1. Navigați la monitorizarea AI: Accesați toate capacitățile din noul dvs. tablou de bord Relic și faceți clic pe AI Monitoring.
2. Selectați aplicația: În secțiunea AI Monitorizare, sub toate entitățile, selectați aplicația DeepSeek (de exemplu, „Deepseek-Local”) pentru a vizualiza datele sale de performanță [2].
Pasul 3: Evaluarea performanței, calității și costurilor
Odată cu configurarea aplicației, puteți evalua acum valorile cheie:1.. APM 360 Rezumat: Vizualizați rezumatul APM 360 pentru informații despre valori precum cereri, timpi de răspuns, utilizarea jetonului și ratele de eroare. Acest lucru ajută la identificarea rapidă a problemelor [2].
2. Vizualizare de urmărire profundă: Faceți clic pe răspunsurile AI în rezumatul APM 360 pentru a vedea urme detaliate de la intrarea utilizatorului la răspunsul final, inclusiv metadatele precum numărul de jetoane și informațiile despre model [2].
3. Evaluarea calității modelului: Analizați răspunsurile modelului de limbaj mare (LLM) pentru a identifica probleme precum toxicitatea sau negativitatea, deși această caracteristică este în prezent în previzualizare limitată [2].
Pasul 4: Comparați modelele
New Relic vă permite să comparați diferite modele AI pentru a optimiza performanța și costul:1. Comparație de model: Utilizați capacitățile de comparare a modelului New Relic pentru a evalua modul în care comutarea între modele afectează performanța și costurile aplicației dvs. Acest lucru ajută la selectarea celui mai potrivit model pentru nevoile dvs. [3] [10].
Pasul 5: Asigurați confidențialitatea și securitatea datelor
Pentru a proteja datele sensibile, puteți configura filtrele de cădere:1. Creați filtre de cădere: Navigați pentru a scădea filtre și creați filtre pentru a exclude datele sensibile (de exemplu, informații personale de identificare) din cererile și răspunsurile AI [2].
Urmărind acești pași, puteți configura în mod eficient o nouă monitorizare AI Relic pentru aplicația dvs. Deepseek, obținând informații valoroase asupra performanței sale, asigurând în același timp confidențialitatea și securitatea datelor.
Citări:
[1] https://docs.newrelic.com/install/ai-monitoring/
[2] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring
[3] https://cxotoday.com/press-crelease/new-relic-announces-the-industrys-only-observabilitate-integration-with-deepseek-to-accelerate-AI-ADOPTION AND-ROI/
[4] https://newrelic.com/blog/how-to-relic/ai-monatoring-for-nvidia-nim
[5] https://www.dqchannels.com/news/new-relic-introduches-observability-solution-for-eepseek-ai-monitoring-8689063
[6] https://newrelic.com/blog/how-to-relic/monitor-and-optimize-complex-web-apps-with-new-relic
[7] https://newrelic.com/blog/how-to-relic/ai-monitoring
[8] https://ecommenews.com.au/story/new-relic-unveils-AI-monitoring-for-deepseek-applications
[9] https://docs.newrelic.com/docs/ai-monatoring/intro-to-ai-monitoring/
[10] https://newrelic.com/press-release/20250203