„New Relic“ AI stebėjimas yra skirtas užtikrinti išsamų matomumą visame AI krūvoje, į kurią įeina programos, sukurtos naudojant „Deepseek“. Ši galimybė iš tikrųjų gali padėti nustatyti „Deepseee“ programų kliūčių, siūlančių keletą pagrindinių funkcijų:
1. Visas AI kamino matomumas: „New Relic“ suteikia holistinį vaizdą visoje programoje, infrastruktūroje ir AI sluoksnyje. Tai apima metriką, tokią kaip atsakymo laikas, žetonų naudojimas ir klaidų procentai, kurie yra labai svarbūs nustatant našumo kliūtis AI programose, tokiose, kaip sukurtos naudojant „Deepseek“ [1] [4].
2. „Deep Trace Insights“: Platformoje siūlomos išsamios sekimo galimybės, leidžiančios kūrėjams sekti sudėtingų AI reakcijų gyvavimo ciklą. Ši funkcija yra ypač naudinga atliekant trikčių šalinimo našumo problemas „Deepseeek“ modeliuose, analizuojant, kaip apdorojamos įvestys ir sukuriamos išėjimai [7].
3. Realaus laiko įžvalgos: „New Relic“ AI stebėjimas siūlo realaus laiko įžvalgas per AI kaminą, apimančias paslaugas, infrastruktūrą ir AI sluoksnį. Tai užtikrina efektyvias, patikimas ir ekonomiškai efektyvias operacijas, teikiant išsamią pralaidumo, latencijos ir išlaidų metriką [2] [6].
4. Modelio palyginimas: Platforma leidžia palyginti modelį, leidžiantį kūrėjams įvertinti našumo poveikį keičiant AI modelius. Ši funkcija yra naudinga norint optimizuoti „Deepseeek“ programas, pasirinkus efektyviausius modelius, pagrįstus našumo ir išlaidų metrika [5] [9].
5. Patobulintas duomenų saugumas: „New Relic“ stebėjimas apima tokias funkcijas kaip kritimo filtrai, leidžiantys selektyviai pašalinti neskelbtinus duomenų tipus, užtikrinti atitiktį ir apsaugoti vartotojo privatumą. Tai svarbu išlaikyti pasitikėjimą AI programomis, tuo pačiu atliekant trikčių šalinimo kliūtį [1].
6. Patikimumo užtikrinimas ir kokybė: užtikrinant išsamų matomumą „Deepseeke“ varomai AI programos našumui, „New Relic“ padeda įmonėms greitai nustatyti ir išspręsti problemas. Šis patikimumo užtikrinimas yra labai svarbus norint palaikyti aukštos kokybės AI paslaugas ir nedelsiant išspręsti kliūtis [2] [6].
Apskritai, „New Relic“ AI stebėjimas yra gerai pritaikytas, kad padėtų nustatyti ir išspręsti kliūtis „Deepseeek“ programose, siūlant išsamų įrankių rinkinį, skirtą optimizavimui, modeliui ir realiojo laiko stebėjimui.
Citatos:
[1] https://docs.newrelic.com/whats-new/2024/03/whats-new-03-28-imoniringga/
[2] https://theexchangeasia.com/new-relic-unveils-first-ever-ai-aibservability-for-deepseek/
[3] https://newrelic.com/blog/how-to-trelic/depall-deepseek-models-locally-and-monitor-with-new-relc-ai-ai-onitorling
[4] https://newrelic.com/blog/how-to-trelic/ai-in-observability
[5] https://newrelic.com/press-release/20250203
[6] https://ecommercenews.com.au/story/new-relic-unveils-ai-onitorting-for-seepseek-applications
[7] https://newrelic.com/blog/nerdlog/ai-onitining-ga
[8] https://www.computerweekly.com/news/36661874/new-relic-extends-observability-to-deepseek
[9] https://newrelic.com/platform/ai-monitring