Da, noua monitorizare AI Relic poate urmări utilizarea jetonului pentru optimizarea costurilor în aplicațiile DeepSeek. Această capacitate face parte din soluția de observabilitate cuprinzătoare a New Relic, concepută special pentru monitorizarea Deepseek, un model AI generativ (GENAI). Prin integrarea monitorizării AI a New Relic cu Deepseek, întreprinderile pot obține vizibilitate deplină în aplicațiile lor AI, inclusiv valori cheie, cum ar fi utilizarea jetoanelor, debitul, latența și costurile. Această integrare acceptă Deepseek și Deepseek pe Foundry AI Microsoft Azure AI, oferind o configurație simplificată cu securitate îmbunătățită a datelor [1] [2] [4].
Urmărirea consumului de jetoane pentru optimizarea costurilor:
Monitorizarea AI a New Relic permite întreprinderilor să urmărească utilizarea jetonului, ceea ce este crucial pentru gestionarea costurilor de dezvoltare AI. Utilizarea jetoanelor este un factor semnificativ în determinarea costurilor de rulare a modelelor AI, deoarece multe servicii AI se încarcă pe baza numărului de jetoane procesate. Prin monitorizarea utilizării jetonului, companiile își pot optimiza costurile AI prin identificarea zonelor în care utilizarea jetonului poate fi redusă fără a compromite performanța. Această capacitate permite, de asemenea, întreprinderilor să ia decizii în cunoștință de cauză cu privire la selecția și implementarea modelului, asigurându-se că aleg cele mai rentabile modele pentru aplicațiile lor [5] [8].
Beneficiile noii monitorizare AI relicvă pentru Deepseek:
1.. Asigurarea și calitatea fiabilității: New Relic oferă o vizibilitate deplină în performanța aplicației AI, cu putere profundă, permițând întreprinderilor să identifice și să rezolve rapid problemele. Acest lucru asigură că aplicațiile funcționează în mod fiabil și mențin de înaltă calitate [1] [4].
2. Optimizarea costurilor: Urmărirea utilizării jetonului și a altor valori legate de costuri, întreprinderile își pot optimiza costurile de dezvoltare AI. Acest lucru este deosebit de important atunci când utilizați modele rentabile precum Deepseek, care oferă capacități avansate de raționament la un cost mai mic [1] [5].
3. Încrederea în comutarea modelului: Caracteristicile de comparare a modelului New Relic permit întreprinderilor să evalueze impactul comutării între modelele AI asupra performanței și costurilor. Acest lucru ajută la luarea deciziilor în cunoștință de cauză cu privire la ce modele să se implementeze și când să se schimbe, asigurându -se că modelele alese se aliniază nevoilor de afaceri și constrângerilor bugetare [4] [5].
4. Inovație accelerată: Combinația dintre modelele AI ale noului Relic și modelele deschise Deepseek accelerează inovația și implementarea AI. Acest lucru permite întreprinderilor să adopte și să optimizeze tehnologiile AI mai eficient, determinând o inovație mai rapidă și menținând un avantaj competitiv pe piață [1] [7].
În general, monitorizarea AI a New Relic pentru aplicații DeepSeek oferă o soluție robustă pentru optimizarea costurilor AI prin urmărirea utilizării jetoane, printre alte beneficii, ajutând întreprinderile să navigheze în mod eficient pe peisajul AI complex.
Citări:
[1] https://theexchangeasia.com/new-relic-unveils-first-ever-AI-OBSERVABILITATE
[2] https://www.dqchannels.com/news/new-relic-introduches-observability-solution-for-eepseek-ai-monitoring-8689063
[3] https://docs.newrelic.com/docs/ai-monatoring/explore-ai-data/view-ai-resposes/
[4] https://newrelic.com/press-release/20250203
[5] https://ecommenews.com.au/story/new-relic-unveils-AI-monitoring-for-deepseek-applications
[6] https://blog.devops.dev/aws-observability-tools-for-bedrock-larg-limbaj-modele-d732363993fd
[7] https://www.computerweekly.com/news/366618774/new-relic-extends-observability- to-epseek
[8] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monator-with-new-relic-ai-monitoring