Noua monitorizare AI Relic oferă o vizibilitate cuprinzătoare în aplicațiile Deepseek, urmărind mai multe valori cheie. Aceste valori sunt cruciale pentru optimizarea performanței, calității și costurilor în aplicațiile AI. Iată valorile și caracteristicile specifice pe care noua monitorizare AI Relic le poate urmări pentru aplicații DeepSeek:
1.. Debit și latență: Noua monitorizare AI Relic permite utilizatorilor să urmărească debitul și latența în aplicațiile DeepSeek. Acest lucru ajută la înțelegerea cât de eficient modelele AI prelucrează solicitările și identificarea potențialelor blocaje care ar putea afecta performanța [1] [4] [7].
2. Valorile costurilor: platforma urmărește utilizarea jetokului, care este esențială pentru gestionarea costurilor de dezvoltare AI. Prin monitorizarea utilizării jetonului, întreprinderile își pot optimiza cheltuielile AI și pot lua decizii în cunoștință de cauză cu privire la selecția modelului pe baza rentabilității [1] [3].
3. Comparația modelului: New Relic permite compararea diferitelor modele AI, inclusiv Deepseek, pentru a evalua performanța și implicațiile costurilor acestora. Această caracteristică ajută întreprinderile să aleagă cele mai potrivite modele pentru aplicațiile lor, asigurând performanțe optime și eficiența costurilor [1] [3] [9].
4. Calitatea răspunsului și valori AI: New Relic AI Monitoring oferă informații despre valori AI, cum ar fi calitatea răspunsului și numărul de jetoane. De asemenea, oferă o viziune consolidată a răspunsurilor LLM, inclusiv analiza sentimentelor și feedback -ul utilizatorilor, care ajută la identificarea tendințelor și valorilor exterioare în răspunsurile AI [2] [5].
5. Insights de urmărire profundă: Platforma oferă capacități de urmărire profundă care permit utilizatorilor să urmărească ciclul de viață al răspunsurilor complexe AI. Această caracteristică este utilă în special pentru depanarea problemelor de performanță și a problemelor de calitate, cum ar fi prejudecata, toxicitatea și halucinarea în rezultatele AI [2] [8].
6. Infrastructură și informații despre aplicații: New Relic oferă o vedere holistică în cadrul aplicației, infrastructurii și straturilor AI. Această vizibilitate cuprinzătoare ajută la identificarea problemelor și la optimizarea performanței generale a sistemului [2] [5].
7. Securitatea și confidențialitatea datelor: Noua relicvă include caracteristici pentru a proteja datele sensibile, excluzând selectiv anumite tipuri de date de la monitorizare. Acest lucru asigură respectarea reglementărilor privind confidențialitatea și protejează datele utilizatorilor [2] [3].
Urmărirea acestor valori și utilizând aceste caracteristici, întreprinderile își pot optimiza aplicațiile Deepseek pentru o performanță mai bună, fiabilitate și eficiența costurilor.
Citări:
[1] https://www.dqchannels.com/news/new-relic-introducts-observability-solution-for-eepseek-ai-monitoring-8689063
[2] https://docs.newrelic.com/whats-new/2024/03/whats-new-03-28-aimonitoringga/
[3] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monator-with-new-relic-ai-monitoring
]
[5] https://newrelic.com/blog/how-to-relic/ai-in-in-observability
.
[7] https://www.itopstimes.com/ai/new-relic-creates-observabilitate-integration-with-deepseek/
[8] https://newrelic.com/blog/nerdlog/ai-monatoring-ga
[9] https://newrelic.com/press-release/20250203
[10] https://www.computerweekly.com/news/366618774/new-relic-extends-observability- to-epseek