Jaunu relikviju AI uzraudzība DeepSeEK lietojumprogrammai ir saistīta ar vairākām galvenajām darbībām, kas palīdz iegūt visaptverošu redzamību AI lietojumprogrammas veiktspējā, kvalitātē un izmaksās. Šeit ir detalizēts ceļvedis par to, kā to iestatīt:
1. solis: instrumentējiet savu DeepSeek lietojumprogrammu
Lai sāktu uzraudzīt savu DeepSeek lietojumprogrammu ar jaunu relikviju, vispirms ir jāiesniedz lietojumprogramma. Tas ietver jaunu Relic lietojumprogrammu veiktspējas uzraudzības (APM) aģentu integrēšanu jūsu lietojumprogrammā. Tā kā DeepSeek izmanto ar Openai saderīgu API, jūs varat izmantot Openai SDK savā lietojumprogrammā, lai vieglāk integrētu ar jaunu relikviju [2].1. Reģistrējieties vai piesakieties: Sāciet, reģistrējieties jaunam relikvijas kontam vai piesakoties, ja jums tas jau ir.
2. Piekļuves integrācijas un aģenti: pārejiet uz sadaļu Integrācija un aģenti jaunajā relikvijas paneļā.
3. Atlasiet Openai integrācija: meklēšanas joslā ierakstiet Openai un atlasiet to. Tas notiek tāpēc, ka DeepSeek modeļi ir savietojami ar Openai API.
4. Izvēlieties savu programmēšanas valodu: atlasiet programmēšanas valodu, ko izmanto jūsu lietojumprogrammā (piemēram, Python, Node.js).
5. Sekojiet vadībai uz kuģa: sekojiet vadīta iekāpšanas procesam, ko nodrošina jauns relikts, lai instrumentētu jūsu pieteikumu. Šis process ļaus jums iestatīt nepieciešamās AI uzraudzības konfigurācijas [2].
2. solis: piekļūstiet AI uzraudzībai
Kad jūsu lietojumprogramma ir instrumentēta, varat sākt izmantot jaunu Relic AI uzraudzību:1. Dodieties uz AI uzraudzību: dodieties uz visām jaunā relikvijas paneļa iespējām un noklikšķiniet uz AI uzraudzības.
2. Atlasiet savu lietojumprogrammu: AI uzraudzības sadaļā visās entītijās atlasiet savu DeepSeek lietojumprogrammu (piemēram, "DeepSeek-Local"), lai apskatītu tā veiktspējas datus [2].
3. solis: novērtējiet veiktspēju, kvalitāti un izmaksas
Izmantojot jūsu lietojumprogrammu, tagad varat novērtēt galveno metriku:1. APM 360 kopsavilkums: skatiet APM 360 kopsavilkumu par ieskatu metrikā, piemēram, pieprasījumos, reakcijas laikos, marķiera lietošanā un kļūdu līmenī. Tas palīdz ātri identificēt problēmas [2].
2. Dziļās izsekošanas skats: APM 360 kopsavilkumā noklikšķiniet uz AI atbildēm, lai redzētu detalizētas pēdas no lietotāja ievades uz galīgo atbildi, ieskaitot metadatus, piemēram, marķieru skaitu un modeļa informāciju [2].
3. Modeļa kvalitātes novērtēšana: analizējiet lielās valodas modeļa (LLM) reakcijas, lai identificētu tādus jautājumus kā toksicitāte vai negatīvisms, lai gan šī funkcija pašlaik ir ierobežotā priekšskatījumā [2].
4. solis: salīdziniet modeļus
Jauna relikvija ļauj salīdzināt dažādus AI modeļus, lai optimizētu veiktspēju un izmaksas:1. Modeļa salīdzinājums: izmantojiet New Relic modeļa salīdzināšanas iespējas, lai novērtētu, kā pārslēgšanās starp modeļiem ietekmē jūsu lietojumprogrammas veiktspēju un izmaksas. Tas palīdz izvēlēties vispiemērotāko modeli jūsu vajadzībām [3] [10].
5. solis: nodrošiniet datu privātumu un drošību
Lai aizsargātu sensitīvus datus, varat konfigurēt pilienu filtrus:1. Izveidojiet pilienu filtrus: dodieties uz filtru nomest un izveidot filtrus, lai izslēgtu sensitīvus datus (piemēram, personiski identificējamu informāciju) no jūsu AI pieprasījumiem un atbildēm [2].
Veicot šīs darbības, jūs varat efektīvi iestatīt jaunu Relic AI uzraudzību jūsu DeepSeEK lietojumprogrammai, iegūstot vērtīgu ieskatu tās veiktspējā, vienlaikus nodrošinot datu privātumu un drošību.
Atsauces:
[1] https://docs.newrelic.com/install/ai-monitoring/
[2] https://newrelic.com/blog/how-to-relic/deploy-depseek-models-locally-and-monitor-with-new-relic-aionitoring
.
[4] https://newrelic.com/blog/how-to-relic/ai-monitoring-for-nvidia-nim
[5] https://www.dqchannels.com/news/new-relic-introduces-observability-solution-for-depseek-ai-onitoring-8689063
[6.]
[7] https://newrelic.com/blog/how-to-relic/ai-onitoring
[8] https://ecommercenews.com.au/story/new-relic-unveils
[9] https://docs.newrelic.com/docs/ai-monitoring/intro-to-ai-monitoring/
[10] https://newrelic.com/press-rease/20250203