Integruoti naują „Relic AI“ stebėjimą su „Deepseek-R1“ reikia kelių veiksmų, padedančių stebėti jūsų AI programų našumą, kokybę ir kainą. Čia yra išsamus vadovas, kaip pasiekti šią integraciją:
1 žingsnis: „DeepSeeek-R1“ nustatymas vietoje
Pirmiausia įsitikinkite, kad turite „DeepSeeek-R1“ modelį, sukurtą vietoje. „Deepseeek“ modeliai yra žinomi dėl savo novatoriškos architektūros, ypač ekspertų mišinio (MOE) dizaino, kuris padidina efektyvumą, suaktyvinant tik atitinkamus submodelius konkrečioms užduotims [1] [3].
2 žingsnis: naudojant „Openai“ suderinamą API
„Deepseek“ modeliuose naudojamas su „Openai“ suderinama API. Tai reiškia, kad galite juos integruoti į savo programą naudodami „Openai SDK“, o tai supaprastina stebėjimo procesą naudojant naują relikviją [1].
3 žingsnis: Integracija į naują relikvijos AI stebėjimą
1. Prisiregistruokite arba prisijunkite prie „New Relic“: Pradėkite prisiregistruodami į naują relikvijos sąskaitą arba prisijunkite, jei jau turite. „New Relic“ siūlo nemokamą sąskaitos parinktį, todėl ji yra prieinama testavimui ir plėtrai [1].
2. Konfigūruokite naują „Openai“ relikviją: Kadangi „Deepseek“ naudoja „Openai“ suderinamą API, sukonfigūruosite naują relikviją, tarsi tiesiogiai integruotumėte „Openai“.
- Eikite į integracijas ir agentus į savo naują „Relic“ paskyrą.
- Paieškos juostoje įveskite „Openai“ ir pasirinkite ją.
- Pasirinkite savo programos programavimo kalbą (pvz., „Python“, „Node.js“).
- Vykdykite vadovaujamą įjungimo procesą, pateiktą „New Relic“, kad instrumentų jūsų AI programa, sukurta naudojant „Deepseek“ [1].
3. Instrumentas Jūsų programa: „New Relic“ teikia APM agentus, kuriuos galima lengvai integruoti į jūsų programą. Šie agentai renka metriką ir įvykių duomenis iš AI bibliotekų ir rėmų, leisdami jums stebėti AI programos našumą realiuoju laiku [2] [8].
4. Tinkinti agento elgseną: Įdiegę agentą, galite pritaikyti jo elgesį, kad atitiktų jūsų poreikius. Tai apima įgalinimo ar išjungimo funkcijas, tokias kaip srautas ir turinio įrašymas, kurios yra labai svarbios stebint AI sąveiką [5].
5. Monitoriaus našumas ir kokybė: Naudodami naują relikvijos AI stebėjimą, galite įgyti įžvalgų apie tokius pagrindinius metrikus, kaip reagavimo laikas, kokybė, naudojami žetonai ir infrastruktūros našumas. Tai padeda nustatyti kliūtis ir optimizuoti bendrą jūsų AI programos funkcionalumą [10].
6. Modelio palyginimas ir optimizavimas: „New Relic“ modelio palyginimo funkcija leidžia įvertinti skirtingus AI modelius, pagrįstus našumu, kokybe ir kaina. Tai ypač naudinga sprendžiant, ar pereiti prie naujesnio modelio, pavyzdžiui, „Deepseek-R1“, nes tai padeda įvertinti poveikį jūsų programai [4] [9].
4 žingsnis: duomenų privatumo ir saugumo užtikrinimas
Naudodamiesi nauja „Relic AI“ stebėjimas, įsitikinkite, kad laikysitės duomenų privatumo taisyklių. Kadangi AI stebėjimas gali įrašyti sąnaudas ir išėjimus, įskaitant asmeninę informaciją, būtina gauti vartotojų sutikimą ir įgyvendinti būtinas duomenų apsaugos priemones [2].
5 žingsnis: Įžvalgų panaudojimas naujovėms
Galiausiai naudokite įžvalgas, gautas iš naujo relikvijos AI stebėjimo, kad paskatintumėte naujoves ir patobulintumėte savo AI programas. Optimizuodami rezultatus ir išlaidas, galite pagreitinti PG priėmimą ir pasiekti greitesnę investicijų grąžą (IG) [4] [7].
Ši integracija ne tik padidina jūsų AI kamino matomumą, bet ir palaiko ekonomišką ir efektyvų „Deepseeek“ modelių pobūdį, todėl AI tampa prieinamesnė ir skatina greitesnes naujoves.
Citatos:
[1] https://newrelic.com/blog/how-to-trelic/depall-deepseek-models-locally-and-monitor-with-new-trelic-ai-monitring
[2] https://docs.newrelic.com/install/ai-onitining/
[3] https://618Media.com/en/blog/integring-deepseek-r1-intoxisting-systems-a-guide/
[4] https://newrelic.com/press-release/20250203
[5] https://docs.newrelic.com/docs/ai-onitoring/customize-agent-ai-onitoring/
[6] https://learn.odoo.com/groups/in-5/new-relic-extends-its-ai-onitorling-to-spport-deepseek-4237?mode=date
[7] https://radicaldataScence.wordpress.com/tag/deepseek/
[8] https://newrelic.com/blog/how-to-trelic/ai-monitring
[9] https://www.computerweekly.com/news/36661874/new-relic-extends-observability-to-deepseek
[10] https://newrelic.com/platform/ai-monitring