Nauja relikvijos AI stebėjimas žymiai pagerina „Deepseeek-R1“ modelių našumą, suteikdama išsamią matomumą ir įgyvendinamą įžvalgą apie jų veiklą. Štai kaip tai pasiekia:
1. Realiojo laiko veiklos stebėjimas: Nauja „Relic AI“ stebėjimas leidžia kūrėjams realiu laiku stebėti programas, sukurtas naudojant „Deepseek-R1“ modelius. Tai apima pagrindinių metrikų, tokių kaip našumas, kokybė ir kaina, stebėjimas, įgalinimas greitai identifikuoti ir išspręsti problemas [1] [4].
2. Modelio palyginimas ir optimizavimas: Platforma siūlo modelio palyginimo galimybes, kurios padeda įmonėms optimizuoti „Deepseek-R1“ modelių kokybę, našumą ir kainą. Ši funkcija leidžia kūrėjams įvertinti perjungimo tarp skirtingų modelių poveikį, užtikrinant, kad jie pasirinktų geriausią modelį savo konkrečiems taikymo poreikiams [4] [7].
3. Matomumas nuo galo iki galo: Naujas „Relic AI“ stebėjimas integruojamas su APM 360, kad būtų užtikrintas matomumas visame AI kaminoje. Tai apima paslaugas, infrastruktūrą ir AI modelius, leidžiančius kūrėjams koreliuoti AI programų našumą su realiojo laiko ir pasroviui esančiomis tendencijomis [10].
4. Gilus sekimas ir analizė: platforma pateikia gilius pėdsakus kiekvienam AI atsakymui, suteikiant kūrėjams išsamų vaizdą, kaip veikia jų AI programos. Tai padeda nustatyti pašalinius, tendencijas ir pagrindines klausimų priežastis, todėl trikčių šalinimas yra efektyvesnis [10].
5. Duomenų saugumas ir privatumas: „New Relic“ palaiko duomenų privatumą, leisdamas kūrėjams neįtraukti neskelbtinų duomenų stebėjimo, užtikrinant, kad AI taikymo stebėjimo metu būtų apsaugota asmeninė identifikuojama informacija (PII) [1] [11].
6. Ekonominis efektyvumas: integruojant su ekonomiškai efektyviais „Deepseek“ modeliais, nauja relikvijos AI stebėjimas padeda sumažinti AI plėtros sąnaudas. Tai suteikia įžvalgos apie žetonų naudojimą, kuris yra labai svarbus norint optimizuoti AI programų išlaidas [4] [11].
Apskritai, naujas „Relic AI“ stebėjimas pagerina „Deepseeek-R1“ modelių veikimą, siūlant išsamų stebėjimo sprendimą, kuris supaprastina AI programų kūrimą, diegimą ir stebėjimą, kartu užtikrinant patikimumą, kokybę ir ekonomiškumą.
Citatos:
[1] https://newrelic.com/blog/how-to-trelic/depall-deepseek-models-locally-and-monitor-with-new-trelic-ai-monitring
[2] https://newrelic.com/blog/how-to-trelic/performance-monitining-newrelic-ai
[3] https://learn.odoo.com/groups/in-5/new-relic-extends-its-ai-onitorling-to-spport-deepseek-4237?mode=date
[4] https://newrelic.com/press-release/20250203
[5] https://www.businesswire.com/news/home/20240423849633/en/new-relic-enhances-ai-onitinorting-industry%E2%80%99S-first-apm-for-ai
[6] https://blog.devops.dev/aws-observability-tools-for-bedrock-large-language-models-d732363993fd
[7] https://radicaldataScence.wordpress.com/tag/deepseek/
[8] https://newrelic.com/blog/nerdlog/ai-onitining-ga
[9] https://www.linkedin.com/posts/gariano_deploy-deepseek-models-locally-monitor-actity-7292645533943226369-btjh
[10] https://newrelic.com/blog/how-to-trelic/ai-monitring
[11] https://www.computerweekly.com/news/36661874/new-relic-extends-observability-to-deepseek