La surveillance de l'IA de New Relic est conçue pour fournir une visibilité complète dans la pile AI, qui comprend des applications construites avec Deepseek. Cette capacité peut en effet aider à identifier les goulots d'étranglement dans les applications Deepseek en offrant plusieurs fonctionnalités clés:
1. Visibilité complète de la pile AI: New Relic fournit une vue holistique sur l'application, l'infrastructure et la couche AI. Cela comprend des mesures telles que les temps de réponse, l'utilisation de jetons et les taux d'erreur, qui sont cruciaux pour identifier les goulots d'étranglement de performances dans des applications d'IA comme celles construites avec Deepseek [1] [4].
2. Cette fonctionnalité est particulièrement utile pour résoudre les problèmes de performances dans les modèles Deepseek en analysant comment les entrées sont traitées et les sorties sont générées [7].
3. Informations en temps réel: la surveillance de l'IA de New Relic offre des informations en temps réel sur la pile AI, les services couvrant, l'infrastructure et la couche AI. Cela garantit des opérations efficaces, fiables et rentables en fournissant des mesures complètes sur le débit, la latence et les coûts [2] [6].
4. Comparaison du modèle: la plate-forme permet la comparaison des modèles, permettant aux développeurs d'évaluer les impacts des performances lors de la commutation entre les modèles d'IA. Cette fonctionnalité est bénéfique pour optimiser les applications DeepSeek en sélectionnant les modèles les plus efficaces en fonction des performances et des mesures de coûts [5] [9].
5. Sécurité des données améliorée: la surveillance de New Relic comprend des fonctionnalités telles que les filtres à goutte qui permettent l'exclusion sélective des types de données sensibles, d'assurer la conformité et la protection de la confidentialité des utilisateurs. Ceci est important pour maintenir la confiance dans les applications d'IA lors du dépannage des goulots d'étranglement [1].
6. Assurance et qualité de la fiabilité: En offrant une visibilité complète sur les performances des applications d'IA à alimentation profonde, New Relic aide les entreprises à identifier et à résoudre rapidement les problèmes. Cette assurance de fiabilité est essentielle pour maintenir rapidement les services d'IA de haute qualité et aborder les goulots d'étranglement [2] [6].
Dans l'ensemble, la surveillance de l'IA de New Relic est bien équipée pour aider à identifier et à traiter les goulots d'étranglement dans les applications Deepseek en offrant un ensemble complet d'outils d'optimisation des performances, de sélection de modèles et de surveillance en temps réel.
Citations:
[1] https://docs.newrelic.com/whats-new/2024/03/whats-new-03-28-aimonitoringga/
[2] https://theexchangeasia.com/new-relic-unveils-first-ever-ai-observabilité-for-eepseek/
[3] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring
[4] https://newrelic.com/blog/how-to-relic/ai-in-observabilité
[5] https://newrelic.com/press-release/20250203
[6] https://ecommercenews.com.au/story/new-relic-unveils-ai-monitoring-for-deepseek-applications
[7] https://newrelic.com/blog/nerdlog/ai-monitoring-ga
[8] https://www.computerweekly.com/news/366618774/new-relic-extends-observabilité-toepseek
[9] https://newrelic.com/platform/ai-monitoring