Nauja relikvijos AI stebėjimas suteikia išsamų „DeepSeek“ programų matomumą, stebint keletą pagrindinių metrikų. Ši metrika yra labai svarbi norint optimizuoti našumą, kokybę ir kainą AI programose. Čia yra specifinė metrika ir funkcijos, kurias gali sekti nauja relikvijos AI stebėjimas:
1. Pralaidumas ir vėlavimas: Nauja relikvijos AI stebėjimas leidžia vartotojams sekti pralaidumą ir delsą „Deepseeek“ programose. Tai padeda suprasti, kaip efektyviai AI modeliai apdoroja užklausas ir nustato galimas kliūtis, kurios galėtų paveikti našumą [1] [4] [7].
2. Kainų metrika: platforma seka žetonų naudojimą, kuris yra būtinas norint valdyti AI kūrimo sąnaudas. Stebėdamos žetonų naudojimą, įmonės gali optimizuoti savo AI išlaidas ir priimti pagrįstus sprendimus dėl modelio atrankos, pagrįstų ekonominiu efektyvumu [1] [3].
3. Modelio palyginimas: „New Relic“ leidžia palyginti skirtingus AI modelius, įskaitant „Deepseek“, kad būtų galima įvertinti jų našumą ir išlaidas. Ši funkcija padeda įmonėms pasirinkti tinkamiausius savo programų modelius, užtikrinant optimalų našumą ir ekonomiškumą [1] [3] [9].
4. Atsakymo kokybė ir AI metrika: Nauja „Relic AI“ stebėjimas suteikia įžvalgų apie AI metriką, tokią kaip atsako kokybė ir žetonų skaičius. Jis taip pat siūlo konsoliduotą LLM atsakymų vaizdą, įskaitant sentimentų analizę ir vartotojo atsiliepimus, kurie padeda nustatyti AI atsakymų tendencijas ir pašalinius dalykus [2] [5].
5. Gilios pėdsakų įžvalgos: Platformoje siūlomos gilios sekimo galimybės, leidžiančios vartotojams atsekti sudėtingų AI atsakymų gyvavimo ciklą. Ši savybė yra ypač naudinga derinant našumo problemas ir kokybės problemas, tokias kaip šališkumas, toksiškumas ir haliucinacija AI išėjimuose [2] [8].
6. Infrastruktūros ir taikymo įžvalgos: „New Relic“ pateikia holistinį vaizdą visoje programų, infrastruktūros ir AI sluoksniuose. Šis išsamus matomumas padeda nustatyti problemas ir optimizuoti bendrą sistemos veikimą [2] [5].
7. Duomenų saugumas ir privatumas: Naujoje relikvijoje yra funkcijų, skirtų apsaugoti neskelbtinus duomenis, selektyviai neįtraukiant konkrečių duomenų tipų nuo stebėjimo. Tai užtikrina privatumo taisyklių laikymąsi ir apsaugo vartotojų duomenis [2] [3].
Stebėdamos šias metrikas ir panaudodamas šias funkcijas, įmonės gali optimizuoti savo „Deepseeek“ programas, kad būtų užtikrintas geresnis našumas, patikimumas ir ekonominis efektyvumas.
Citatos:
[1] https://www.dqchannels.com/news/new-relic-introduces-observability-solution-for-deepseek-ai-onitorting-8689063
[2] https://docs.newrelic.com/whats-new/2024/03/whats-new-03-28-imoniringga/
[3] https://newrelic.com/blog/how-to-trelic/depall-deepseek-models-locally-and-monitor-with-new-relc-ai-ai-onitorling
[4] https://ecommercenews.com.au/story/new-relic-unveils-ai-onitorting-for-seepseek-applications
[5] https://newrelic.com/blog/how-to-trelic/ai-in-observability
[6] https://docs.newrelic.com/docs/ai-onitoring/explore-ai-data/view-ai-onesponses/
[7] https://www.itopstimes.com/ai/new-relic-creates-observability-integration-with-deepseek/
[8] https://newrelic.com/blog/nerdlog/ai-onitining-ga
[9] https://newrelic.com/press-release/20250203
[10] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-deepseek