Nauja relikvijos AI stebėjimas vaidina lemiamą vaidmenį nustatant anomalijas „Deepseeek-R1“ modeliuose, užtikrinant išsamų AI programų krūvos matomumą. Tai apima pagrindinių metrikų, tokių kaip pralaidumas, latentinis ir išlaidos, stebėjimo, kuris yra būtinas norint suprasti, kaip modelis veikia įvairiomis sąlygomis [1] [4] [9]. Štai kaip nauja relikvijos AI stebėjimas padeda nustatyti anomalijas:
1. Realiojo laiko stebėjimas: „New Relic“ siūlo realaus laiko stebėjimo galimybes, leidžiančias kūrėjams stebėti „Deepseeek“ modelių veikimą, kai jie veikia. Šis realaus laiko matomumas yra labai svarbus nustatant anomalijas ar netikėtą elgesį modelio išvestyje ar atlikime [3] [9].
2. Gilus sekimas: platforma pateikia gilius pėdsakus kiekvienam AI modelio sugeneruojamam atsakymui. Ši sekimo galimybė leidžia vartotojams pamatyti visą kiekvieno atsakymo gyvavimo ciklą, pradedant nuo pradinio raginimo per visus apdorojimo etapus. Šis išsamus vaizdas padeda nustatyti, kur gali atsirasti anomalijos, nesvarbu, ar tai modelio apdorojimo logikoje, ar sąveikos su kitais taikymo komponentais [6].
3. Ištvirtininkų ir tendencijų identifikavimas: Nauja relikvijos AI stebėjimas sujungia visus AI atsakymus į susukimo vaizdą, todėl lengviau nustatyti modelio išvesties nuokrypius ir tendencijas. Outlieriai gali reikšti anomalijas ar netikėtą elgesį, kurį gali reikėti toliau ištirti [6].
4. Modelio palyginimas: „New Relic“ modelio palyginimo galimybės leidžia kūrėjams įvertinti, kaip skirtingi modeliai, įskaitant „Deepseek-R1“, veikia panašiomis sąlygomis. Tai padeda nustatyti, kurie modeliai yra labiau linkę į anomalijas arba kurie gali pasiūlyti geresnį patikimumą ir našumą [1] [9].
Ad
5. Kainos ir našumo optimizavimas: Stebėdami pagrindinę metriką, tokią kaip pralaidumas ir latentinis, kūrėjai gali optimizuoti „Deepseee“ modelių našumą valdydami išlaidas. Šis optimizavimo procesas taip pat gali atskleisti anomalijas, susijusias su išteklių naudojimu ar efektyvumu [3] [9].
Nepaisant šių stebėjimo galimybių, „Deepseeek-R1“ modeliai buvo nustatyti su dideliais saugumo pažeidžiamumais, įskaitant jautrumą prieštaringoms raginimams ir kenksmingo turinio generavimui [5] [8]. Taigi, nors naujam relikvijos AI stebėjimui gali padėti nustatyti veiklos anomalijas, norint pašalinti šią saugumo riziką, reikia papildomų priemonių, tokių kaip patikimas saugumo bandymas ir anomalijos aptikimo sistemos [8].
Citatos:
[1] https://newrelic.com/Press-release/20250203
[2] https://zilliz.com/ai-faq/how-does-deepseeks-r1-model-handle-outofdISTriBution-inputs
[3] https://newrelic.com/blog/how-to-trelic/depall-deepseek-models-locally-and-monitor-with-new-relc-ai-ai-onitorling
[4] https://www.linkedin.com/posts/gariano_deploploy-deepseek-models-locally-monitor-actity-7292645533943226369-btjh
[5] https://www.appsoc.com/blog/testing-the-deepseek-r1-model-a-pandoras-box-of-security-risks
[6] https://newrelic.com/blog/how-to-trelic/ai-monitring
[7] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-deepseek
[8] https://securityboulevard.com/2025/02/deepseek-ai-model-riddled-with-security-vulnerability/
[9] https://www.dqchannels.com/news/new-relic-introduces-observability-solution-for-deepseek-ai-onitoring-8689063
