Monitorizarea AI a New Relic este concepută pentru a oferi o vizibilitate cuprinzătoare pe stiva AI, care include aplicații construite cu Deepseek. Această capacitate poate ajuta într -adevăr la identificarea blocajelor din aplicațiile Deepseek, oferind mai multe caracteristici cheie:
1.. Vizibilitatea completă a stivei AI: New Relic oferă o vedere holistică în cadrul aplicației, infrastructurii și stratului AI. Aceasta include valori precum timpii de răspuns, utilizarea jetoanelor și ratele de eroare, care sunt cruciale pentru identificarea blocajelor de performanță în aplicațiile AI, precum cele construite cu Deepseek [1] [4].
2. Perspective de urmărire profundă: Platforma oferă capabilități detaliate de urmărire care permit dezvoltatorilor să urmărească ciclul de viață al răspunsurilor complexe AI. Această caracteristică este deosebit de utilă pentru depanarea problemelor de performanță în modelele DeepSeek, analizând modul în care sunt procesate intrările și ieșirile sunt generate [7].
3. Insights în timp real: Monitorizarea AI a New Relic oferă informații în timp real pe stiva AI, servicii de întindere, infrastructură și stratul AI. Acest lucru asigură operațiuni eficiente, fiabile și rentabile, oferind valori cuprinzătoare asupra debitului, latenței și costurilor [2] [6].
4. Comparație de model: Platforma permite compararea modelului, permițând dezvoltatorilor să evalueze impactul performanței la trecerea între modelele AI. Această caracteristică este benefică pentru optimizarea aplicațiilor DeepSeek prin selectarea celor mai eficiente modele bazate pe valori de performanță și costuri [5] [9].
5. Securitate îmbunătățită a datelor: Monitorizarea New Relic include caracteristici precum filtre de cădere care permit excluderea selectivă a tipurilor de date sensibile, asigurând conformitatea și protejarea vieții private a utilizatorilor. Acest lucru este important pentru menținerea încrederii în aplicațiile AI, în timp ce depanarea blocajelor [1].
6. Asigurarea și calitatea fiabilității: oferind o vizibilitate deplină în performanța aplicației AI cu profunzime, New Relic ajută întreprinderile să identifice și să rezolve rapid problemele. Această asigurare de fiabilitate este esențială pentru menținerea serviciilor AI de înaltă calitate și pentru abordarea prompt a blocajelor [2] [6].
În general, monitorizarea AI a New Relic este bine echipată pentru a ajuta la identificarea și abordarea blocajelor în aplicațiile Deepseek, oferind un set cuprinzător de instrumente pentru optimizarea performanței, selecția modelului și monitorizarea în timp real.
Citări:
[1] https://docs.newrelic.com/whats-new/2024/03/whats-new-03-28-aimonitoringga/
[2] https://theexchangeasia.com/new-relic-unveils-first-ever-AI-OBSERVABILITATE
[3] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monator-with-new-relic-ai-monitoring
[4] https://newrelic.com/blog/how-to-relic/ai-in-in-observability
[5] https://newrelic.com/press-release/20250203
[6] https://ecommenews.com.au/story/new-relic-unveils-AI-monitoring-for-deepseek-applications
[7] https://newrelic.com/blog/nerdlog/ai-monatoring-ga
[8] https://www.computerweekly.com/news/366618774/new-relic-extends-observability- to-epseek
[9] https://newrelic.com/platform/ai-monitoring