Novo relic AI spremljanje ima ključno vlogo pri prepoznavanju anomalij v modelih Deepseek-R1, tako da zagotavlja celovito vidljivost v skladu z aplikacijo AI. To vključuje sledenje ključnih meritev, kot so pretok, zamuda in stroški, ki so bistvenega pomena za razumevanje, kako model deluje v različnih pogojih [1] [4] [9]. Tukaj je, kako nov relic AI spremljanje pomaga pri prepoznavanju anomalij:
1. Spremljanje v realnem času: New Relic ponuja zmogljivosti za spremljanje v realnem času, ki razvijalcem omogočajo opazovanje zmogljivosti modelov Deepseek, ko delujejo. Ta vidnost v realnem času je ključnega pomena za odkrivanje anomalij ali nepričakovanega vedenja v izhodu ali uspešnosti modela [3] [9].
2. Globoko sledenje: Platforma zagotavlja globoke sledi za vsak odziv, ki ga ustvari model AI. Ta sposobnost sledenja uporabnikom omogoča, da vidijo celoten življenjski cikel vsakega odziva, od začetnega poziva do vseh faz obdelave. Ta podroben pogled pomaga pri prepoznavanju, kje se lahko pojavijo anomalije, ne glede na to, ali gre za logiko obdelave modela ali v interakcijah z drugimi komponentami aplikacij [6].
3. Prepoznavanje zunanjih in trendov: New Relic AI spremljanje konsolidira vse odzive AI v pogled, kar olajša prepoznavanje zunanjih in trendov v izhodih modela. Odličniki lahko nakazujejo anomalije ali nepričakovano vedenje, ki bi morda potrebovale nadaljnjo preiskavo [6].
4. Primerjava modela: Primerjalne zmogljivosti za primerjavo modela New Relic omogočajo razvijalcem, da ocenijo, kako različni modeli, vključno z Deepseek-R1, delujejo pod podobnimi pogoji. To pomaga pri prepoznavanju, kateri modeli so bolj nagnjeni k anomalijam ali ki bi lahko ponudili boljšo zanesljivost in zmogljivost [1] [9].
5. Optimizacija stroškov in uspešnosti: S spremljanjem ključnih meritev, kot sta pretok in zamude, lahko razvijalci optimizirajo delovanje modelov Deepseek in hkrati upravljajo stroške. Ta postopek optimizacije lahko razkrije tudi anomalije, povezane z uporabo virov ali učinkovitostjo [3] [9].
Vendar pa so bili kljub tem spremljanjem modelov opredeljeni z velikimi varnostnimi ranljivostmi, vključno z dovzetnostjo za nasprotne pozive in ustvarjanje škodljive vsebine [5] [8]. Medtem ko lahko nov nadzor AI relikvije pomaga prepoznati operativne anomalije, za reševanje teh varnostnih tveganj zahteva dodatne ukrepe, kot so zanesljivi varnostni testiranji in sistemi za odkrivanje anomalije [8].
Navedbe:
[1] https://newrelic.com/press-release/20250203
[2] https://zilliz.com/ai-faq/how-does-deepseeks-r1-model-handle-outofdistribution-inputs
[3] https://newrelic.com/blog/how-to-relic/Deploy-deepseek-models-docally-and-monitor-with-new-relic-ai-monitoring
[4] https://www.linkedin.com/posts/gariano_deploy-deepseek-models-docally-and-monitor-activity-729264533943226369-BTJH
[5] https://www.appsoc.com/blog/testing-the-deepseek-r1-model-a-pandoras-box-oof-security-risks
[6] https://newrelic.com/blog/how-to-relic/ai-monitoring
[7] https://www.computerweekly.com/news/366618774/new-relic-extexends-observebility-to-reepseek
[8] https://securityboulevard.com/2025/02/deepseek-ai-model-riddled-with-security-Vulnernebilnosti/
[9] https://www.dqchannels.com/news/new-relic-introduces-observability-solution-for-deepseek-aa-monitoring-8689063