Naujos „Relic AI“ stebėjimo, skirto „Deepseeek“ programai, nustatymas apima keletą pagrindinių veiksmų, kurie padeda įgyti išsamų AI programos veiklos, kokybės ir išlaidų matomumą. Čia yra išsamus vadovas, kaip jį nustatyti:
1 žingsnis: instrumentu
Norėdami pradėti stebėti savo „Deepseeek“ programą naudodamiesi nauja relikvija, pirmiausia turite pritaikyti savo programą. Tai apima „New Relic“ programų veiklos stebėjimo (APM) agentų integravimą į jūsų programą. Kadangi „Deepseek“ naudoja „Openai“ suderinamą API, savo programoje galite naudoti „Openai SDK“, kad būtų lengviau integruoti su „New Relic“ [2].1. Prisiregistruokite arba prisijunkite: Pradėkite prisiregistruodami gauti naują relikvijos sąskaitą arba prisijunkite, jei jau turite.
2. Prieigos integracijos ir agentai: eikite į skyrių „Integrations & Agents“ savo naujame relikvijos informacijos suvestinėje.
3. Pasirinkite „Openai“ integraciją: paieškos juostoje įveskite „Openai“ ir pasirinkite ją. Taip yra todėl, kad „Deepseeek“ modeliai yra suderinami su „Openai“ API.
4. Pasirinkite savo programavimo kalbą: pasirinkite programavimo kalbą, kurią naudoja jūsų programa (pvz., „Python“, „Node.js“).
5. Vykdykite vadovaujamą įjungimą: vykdykite vadovaujamą įjungimo procesą, kurį teikia „New Relic“ jūsų programa. Šis procesas nuves jus nustatant būtinas AI stebėjimo konfigūracijas [2].
2 žingsnis: Prieigos prie AI stebėjimo
Kai jūsų paraiška bus pritaikyta, galite pradėti naudoti naują relikvijos AI stebėjimą:1. Eikite į AI stebėjimą: eikite į visas savo naujojo relikvijos prietaisų skydelio galimybes ir spustelėkite AI stebėjimą.
2. Pasirinkite savo programą: Skiltyje AI stebėjimo skyriuje, visuose subjektuose, pasirinkite savo „Deepseeek“ programą (pvz., „Deepseek-Local“), kad peržiūrėtumėte jo našumo duomenis [2].
3 žingsnis: Įvertinkite našumą, kokybę ir kainą
Nustatydami savo programą, dabar galite įvertinti pagrindinę metriką:1. APM 360 SANTRAUKA: Peržiūrėkite APM 360 suvestinę įžvalgoms apie tokias metrikas kaip užklausos, atsakymo laikas, žetonų naudojimas ir klaidų procentai. Tai padeda greitai nustatyti problemas [2].
2. Giluminio sekimo vaizdas: spustelėkite AI atsakymus APM 360 suvestinėje, kad pamatytumėte išsamius pėdsakus nuo vartotojo įvesties iki galutinio atsakymo, įskaitant metaduomenų, tokių kaip žetonų skaičius ir modelio informacija [2].
3. Modelio kokybės vertinimas: Išanalizuokite didelio kalbos modelio (LLM) atsakymus, kad nustatytumėte tokias problemas kaip toksiškumas ar neigiamumas, nors ši savybė šiuo metu yra ribota peržiūra [2].
4 žingsnis: palyginkite modelius
„New Relic“ leidžia palyginti skirtingus AI modelius, kad optimizuotumėte našumą ir kainą:1. Modelio palyginimas: naudokite „New Relic“ modelio palyginimo galimybes, kad įvertintumėte, kaip perėjimas tarp modelių turi įtakos jūsų programos našumui ir išlaidoms. Tai padeda pasirinkti tinkamiausią jūsų poreikių modelį [3] [10].
5 žingsnis: Užtikrinkite duomenų privatumą ir saugumą
Norėdami apsaugoti neskelbtinus duomenis, galite sukonfigūruoti kritimo filtrus:1. Sukurkite kritimo filtrus: eikite į „Drop Filters“ ir sukurkite filtrus, kad pašalintumėte neskelbtinus duomenis (pvz., Asmeninę identifikuojamą informaciją) iš savo AI užklausų ir atsakymų [2].
Atlikdami šiuos veiksmus, galite efektyviai nustatyti naują „Relic AI“ stebėjimą savo „Deepseee“ programai, įgyti vertingų įžvalgų apie jos veikimą, užtikrindami duomenų privatumą ir saugumą.
Citatos:
[1] https://docs.newrelic.com/install/ai-onitining/
[2] https://newrelic.com/blog/how-to-trelic/depall-deepseek-models-locally-and-monitor-with-new-trelic-ai-monitring
[3] https://cxotoday.com/Press-release/new-relic-announces-the-industys-ony-bservability-integracija-integracija-integration-deepsee-to-accelerate- ai-ostion-and-roi/
[4] https://newrelic.com/blog/how-to-trelic/ai-monitorting-for-nvidia-nim
[5] https://www.dqchannels.com/news/new-relic-introduces-observability-solution-for-deepseek-ai-onitoring-8689063
[6] https://newrelic.com/blog/how-to-trelic/monitor-and-optimize-complex-web-apps-with-new-relic
[7] https://newrelic.com/blog/how-to-trelic/ai-monitring
[8] https://ecommercenews.com.au/story/new-relic-unveils-ai-onitoring-for-seepseek-applications
[9] https://docs.newrelic.com/docs/ai-onitoring/intro-o-ai-onitining/
[10] https://newrelic.com/press-release/20250203