La mise en place d'une nouvelle surveillance de l'IA Relic pour une application Deepseek implique plusieurs étapes clés qui vous aident à obtenir une visibilité complète dans les performances, la qualité et le coût de votre application d'IA. Voici un guide détaillé sur la façon de le configurer:
Étape 1: Instrument Votre application Deepseek
Pour commencer à surveiller votre application Deepseek avec une nouvelle relique, vous devez d'abord instrument votre application. Cela implique d'intégrer les agents de surveillance des performances de l'application de New Relic (APM) dans votre application. Étant donné que Deepseek utilise une API compatible OpenAI, vous pouvez utiliser le SDK OpenAI dans votre application pour une intégration plus facile avec une nouvelle relique [2].1. Inscrivez-vous ou connectez-vous: commencez par vous inscrire à un nouveau compte de relique ou vous connecter si vous en avez déjà un.
2. Accès aux intégrations et aux agents: accédez à la section des intégrations et des agents dans votre nouveau tableau de bord de relique.
3. Sélectionnez l'intégration Openai: dans la barre de recherche, tapez OpenAI et sélectionnez-la. En effet, les modèles Deepseek sont compatibles avec les API OpenAI.
4. Choisissez votre langage de programmation: sélectionnez le langage de programmation utilisé par votre application (par exemple, Python, Node.js).
5. Suivez l'intégration guidée: suivez le processus d'intégration guidé fourni par New Relic à Instrument votre application. Ce processus vous guidera en configurant les configurations nécessaires pour la surveillance de l'IA [2].
Étape 2: Accès à la surveillance de l'IA
Une fois votre application instrumentée, vous pouvez commencer à utiliser une nouvelle surveillance de l'IA Relic:1. Accédez à la surveillance de l'IA: accédez à toutes les capacités de votre nouveau tableau de bord Relic et cliquez sur la surveillance de l'IA.
2. Sélectionnez votre application: Dans la section de surveillance de l'IA, sous toutes les entités, sélectionnez votre application Deepseek (par exemple, "Deepseek-local") pour afficher ses données de performance [2].
Étape 3: évaluer les performances, la qualité et le coût
Avec la configuration de votre application, vous pouvez désormais évaluer les mesures clés:1. Résumé de l'APM 360: Voir le résumé APM 360 pour des informations sur les mesures telles que les demandes, les temps de réponse, l'utilisation de jetons et les taux d'erreur. Cela aide à identifier rapidement les problèmes [2].
2.
3.
Étape 4: Comparez les modèles
New Relic vous permet de comparer différents modèles d'IA pour optimiser les performances et le coût:1. Comparaison des modèles: utilisez les capacités de comparaison des modèles de New Relic pour évaluer comment la commutation entre les modèles affecte les performances et les coûts de votre application. Cela aide à sélectionner le modèle le plus approprié pour vos besoins [3] [10].
Étape 5: assurer la confidentialité et la sécurité des données
Pour protéger les données sensibles, vous pouvez configurer les filtres de dépôt:1. Créez des filtres à baisser: accédez à des filtres à déposer et créez des filtres pour exclure les données sensibles (par exemple, des informations personnelles identifiables) à partir de vos demandes et réponses d'IA [2].
En suivant ces étapes, vous pouvez configurer efficacement une nouvelle surveillance de l'IA de relique pour votre application Deepseek, en obtenant des informations précieuses sur ses performances tout en garantissant la confidentialité et la sécurité des données.
Citations:
[1] https://docs.newrelic.com/install/ai-monitoring/
[2] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring
[3] https://cxotoday.com/press-release/new-relic-announs-the-instrys-ingly-observability-integration-with-deepseek-to-accelerate-ai-adoption-and-roi/
[4] https://newrelic.com/blog/how-to-relic/ai-monitoring-for-nvidia-nim
[5] https://www.dqchannels.com/news/new-relic-inTroduces-Observabilité-solution-for-eepseek-ai-monitoring-8689063
[6] https://newrelic.com/blog/how-to-relic/monitor-and-optimize-complex-web-apps-with-new-relic
[7] https://newrelic.com/blog/how-to-relic/ai-monitoring
[8] https://ecommercenews.com.au/story/new-relic-unveils-ai-monitoring-for-deepseek-applications
[9] https://docs.newrelic.com/docs/ai-monitoring/intro-to-ai-monitoring/
[10] https://newrelic.com/press-release/20250203