La nouvelle surveillance de l'IA Relic offre une visibilité complète dans les applications profondes en suivant plusieurs mesures clés. Ces mesures sont cruciales pour optimiser les performances, la qualité et le coût des applications d'IA. Voici les mesures et fonctionnalités spécifiques que la nouvelle surveillance de l'IA relique peut suivre les applications Deepseek:
1. Débit et latence: une nouvelle surveillance de l'IA Relic permet aux utilisateurs de suivre le débit et la latence dans les applications Deepseek. Cela aide à comprendre à quel point les modèles d'IA traitent efficacement et l'identification des goulots d'étranglement potentiels qui pourraient avoir un impact sur les performances [1] [4] [7].
2. En surveillant l'utilisation des jetons, les entreprises peuvent optimiser leurs dépenses d'IA et prendre des décisions éclairées sur la sélection du modèle en fonction de la rentabilité [1] [3].
3. Comparaison du modèle: New Relic permet la comparaison de différents modèles d'IA, y compris Deepseek, pour évaluer leurs performances et leurs implications de coûts. Cette fonctionnalité aide les entreprises à choisir les modèles les plus appropriés pour leurs applications, garantissant des performances optimales et une rentabilité [1] [3] [9].
4. Qualité de réponse et métriques IA: la nouvelle surveillance de l'IA relique fournit des informations sur les mesures d'IA telles que la qualité de la réponse et le nombre de jetons. Il offre également une vue consolidée des réponses LLM, y compris l'analyse des sentiments et les commentaires des utilisateurs, ce qui aide à identifier les tendances et les valeurs aberrantes dans les réponses de l'IA [2] [5].
5. Insignes de trace profonde: la plate-forme offre des capacités de traçage profondes qui permettent aux utilisateurs de tracer le cycle de vie des réponses complexes d'IA. Cette fonctionnalité est particulièrement utile pour déboguer les problèmes de performances et les problèmes de qualité tels que les biais, la toxicité et les hallucinations dans les sorties d'IA [2] [8].
6. Infrastructure et aperçu de l'application: New Relic fournit une vue holistique sur l'application, l'infrastructure et les couches d'IA. Cette visibilité complète aide à identifier les problèmes et à optimiser les performances globales du système [2] [5].
7. Sécurité et confidentialité des données: New Relic comprend des fonctionnalités pour protéger les données sensibles en excluant sélectivement les types de données spécifiques de la surveillance. Cela garantit la conformité aux réglementations de confidentialité et protège les données utilisateur [2] [3].
En suivant ces mesures et en tirant parti de ces fonctionnalités, les entreprises peuvent optimiser leurs applications profondes pour de meilleures performances, fiabilité et rentabilité.
Citations:
[1] https://www.dqchannels.com/news/new-relic-inTroduces-Observability-solution-for-eepseek-ai-monitoring-8689063
[2] https://docs.newrelic.com/whats-new/2024/03/whats-new-03-28-aimonitoringga/
[3] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring
[4] https://ecommercenews.com.au/story/new-relic-unveils-ai-monitoring-for-deepseek-applications
[5] https://newrelic.com/blog/how-to-relic/ai-in-observabilité
[6] https://docs.newrelic.com/docs/ai-monitoring/explore-ai-data/view-ai-onsponses/
[7] https://www.itopstimes.com/ai/new-relic-cretes-observabilité-integration-with-deepseek/
[8] https://newrelic.com/blog/nerdlog/ai-monitoring-ga
[9] https://newrelic.com/press-release/20250203
[10] https://www.computerweekly.com/news/366618774/new-relic-extends-observabilité-toepseek