Taip, nauja relikvijos AI stebėjimas gali sekti ženklo naudojimą, kad optimizuotų išlaidų optimizavimą „Deepseek“ programose. Ši galimybė yra dalis „New Relic“ išsamų stebėjimo sprendimo, skirto specialiai stebėti „Deepseek“, generatyvinį AI (genai) modelį. Integruodami „New Relic“ AI stebėjimą su „Deepseek“, įmonės gali įgyti visišką savo AI programų matomumą, įskaitant pagrindines metrikas, tokias kaip žetonų naudojimas, pralaidumas, latentinis ir išlaidos. Ši integracija palaiko „Microsoft Azure AI“ liejyklą „Deepseee“ ir „Deepseek“, suteikiančią supaprastintą sąranką su patobulintu duomenų saugumu [1] [2] [4].
Stebėjimo žetono naudojimas išlaidų optimizavimui:
„New Relic“ AI stebėjimas leidžia įmonėms sekti žetonų naudojimą, kuris yra labai svarbus norint valdyti AI kūrimo išlaidas. Ženklo naudojimas yra reikšmingas veiksnys nustatant AI modelių veikimo išlaidas, nes daugelis AI paslaugų mokesčio, atsižvelgiant į apdorotų žetonų skaičių. Stebėdamos žetonų naudojimą, įmonės gali optimizuoti savo PG sąnaudas nustatydamos sritis, kuriose žetonų naudojimas gali būti sumažintas nepakenkiant našumui. Ši galimybė taip pat leidžia įmonėms priimti pagrįstus sprendimus dėl modelio pasirinkimo ir diegimo, užtikrinant, kad jos pasirenka ekonomiškiausius savo programų modelius [5] [8].
Naujos relikvijos AI stebėjimo nauda „Deepseek“:
1. Patikimumo užtikrinimas ir kokybė: „New Relic“ suteikia visišką „Deepseek“ varomo AI programos našumo matomumą, leidžiančią įmonėms greitai nustatyti ir išspręsti problemas. Tai užtikrina, kad programos paleistų patikimai ir išlaikytų aukštą kokybę [1] [4].
2. Kainų optimizavimas: stebėdami žetonų naudojimą ir kitą su išlaidomis susijusią metriką, įmonės gali optimizuoti savo AI kūrimo sąnaudas. Tai ypač svarbu naudojant ekonomiškai efektyvius modelius, tokius kaip „Deepseek“, kurie siūlo pažangias samprotavimo galimybes mažesnėmis sąnaudomis [1] [5].
3. Pasitikėjimas modelio perjungimu: „New Relic“ modelio palyginimo funkcijos leidžia įmonėms įvertinti perjungimo tarp AI modelių poveikį našumui ir išlaidoms. Tai padeda priimti pagrįstus sprendimus, kuriuos modelius diegti ir kada perjungti, užtikrinant, kad pasirinkti modeliai atitiktų verslo poreikius ir biudžeto apribojimus [4] [5].
4. Pagreitinta naujovė: „New Relic“ AI stebėjimo ir „Deepseek“ atvirų modelių derinys pagreitina AI inovacijas ir diegimą. Tai leidžia įmonėms efektyviau priimti ir optimizuoti AI technologijas, paskatinti greitesnes naujoves ir išlaikyti konkurencinį pranašumą rinkoje [1] [7].
Apskritai, „New Relic“ AI stebėjimas „Deepseek“ programoms suteikia patikimą sprendimą, skirtą optimizuoti AI išlaidas, naudojant žetonų naudojimo stebėjimą, be kitų privalumų, padeda įmonėms efektyviai naršyti sudėtingoje AI kraštovaizdyje.
Citatos:
[1] https://theexchangeasia.com/new-relic-unveils-first-ever-ai- aibservability-for-deepseek/
[2] https://www.dqchannels.com/news/new-relic-introduces-observability-solution-for-deepseek-ai-onitoring-8689063
[3] https://docs.newrelic.com/docs/ai-onitoring/explore-ai-data/view-ai-onesponses/
[4] https://newrelic.com/press-release/20250203
[5] https://ecomferenews.com.au/story/new-relic-unveils-ai-onitorting-for-seepseek-applications
[6] https://blog.devops.dev/aws-observability-tools-for-bedrock-large-language-models-d732363993fd
[7] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-deepseek
[8] https://newrelic.com/blog/how-to-trelic/depall-deepseek-models-locally-and-monitor-with-new-relc-ai-ai-onitorling