L'intégration d'une nouvelle surveillance de l'IA relique avec Deepseek-R1 implique plusieurs étapes qui vous aident à surveiller les performances, la qualité et le coût de vos applications d'IA. Voici un guide détaillé sur la façon de réaliser cette intégration:
Étape 1: Configuration de Deepseek-R1 localement
Tout d'abord, assurez-vous que vous avez un modèle Deepseek-R1 configuré localement. Les modèles Deepseek sont connus pour leur architecture innovante, en particulier la conception du mélange des experts (MOE), qui améliore l'efficacité en activant uniquement les sous-modèles pertinents pour des tâches spécifiques [1] [3].
Étape 2: Utilisation de l'API compatible OpenA
Les modèles Deepseek utilisent une API compatible OpenAI. Cela signifie que vous pouvez les intégrer dans votre application à l'aide du SDK OpenAI, qui simplifie le processus de surveillance avec une nouvelle relique [1].
Étape 3: S'intégrer à une nouvelle surveillance de l'IA relique
1. Inscrivez-vous ou connectez-vous à New Relic: commencez par vous inscrire à un nouveau compte Relic ou vous connecter si vous en avez déjà un. New Relic propose une option de compte gratuite, ce qui le rend accessible pour les tests et le développement [1].
2. Configurez une nouvelle relique pour OpenAI: Étant donné que Deepseek utilise une API compatible OpenAI, vous configurerez une nouvelle relique comme si vous intégriez directement OpenAI.
- Accédez à des intégrations et des agents dans votre nouveau compte de relique.
- Dans la barre de recherche, tapez Openai et sélectionnez-le.
- Choisissez le langage de programmation de votre application (par exemple, Python, Node.js).
- Suivez le processus d'intégration guidé fourni par New Relic to Instrument Votre application AI construite avec Deepseek [1].
3. Instrument Votre application: New Relic fournit des agents APM qui peuvent être facilement intégrés dans votre application. Ces agents collectent des métriques et des données d'événements à partir de bibliothèques et de cadres d'IA, vous permettant de surveiller les performances de votre application d'IA en temps réel [2] [8].
4. Personnaliser le comportement de l'agent: une fois l'agent installé, vous pouvez personnaliser son comportement en fonction de vos besoins. Cela comprend l'activation ou la désactivation des fonctionnalités telles que le streaming et l'enregistrement de contenu, qui sont cruciaux pour surveiller les interactions IA [5].
5. Surveiller les performances et la qualité: avec une nouvelle surveillance de l'IA relique, vous pouvez obtenir un aperçu des mesures clés telles que le temps de réponse, la qualité, les jetons utilisés et les performances d'infrastructure. Cela aide à identifier les goulots d'étranglement et à optimiser les fonctionnalités globales de votre application d'IA [10].
6. Comparaison et optimisation des modèles: la fonction de comparaison du modèle de New Relic vous permet d'évaluer différents modèles d'IA en fonction des performances, de la qualité et du coût. Cela est particulièrement utile pour décider de passer à un modèle plus récent comme Deepseek-R1, car il aide à évaluer l'impact sur votre application [4] [9].
Étape 4: assurer la confidentialité et la sécurité des données
Lorsque vous utilisez une nouvelle surveillance de l'IA Relic, assurez-vous de vous conformer aux réglementations de confidentialité des données. Étant donné que la surveillance de l'IA peut enregistrer les entrées et les sorties, y compris les informations personnelles, il est essentiel d'obtenir le consentement des utilisateurs et de mettre en œuvre les mesures de protection des données nécessaires [2].
Étape 5: Tiration des informations sur l'innovation
Enfin, utilisez les idées obtenues à partir de la surveillance de l'IA de la nouvelle relique pour stimuler l'innovation et améliorer vos applications d'IA. En optimisant les performances et les coûts, vous pouvez accélérer l'adoption de l'IA et obtenir un retour sur investissement plus rapide (ROI) [4] [7].
Cette intégration améliore non seulement la visibilité dans votre pile d'IA, mais soutient également la nature rentable et efficace des modèles Deepseek, rendant l'IA plus accessible et stimule une innovation plus rapide.
Citations:
[1] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring
[2] https://docs.newrelic.com/install/ai-monitoring/
[3] https://618media.com/en/blog/integment-deepseek-r1-into-existant-systems-a-uide/
[4] https://newrelic.com/press-release/20250203
[5] https://docs.newrelic.com/docs/ai-monitoring/customalize-agent-ai-monitoring/
[6] https://learn.odoo.com/groups/in-5/new-relic-extends-its-ai-monitoring-to-support-deepseek-4237?mode=date
[7] https://radicaldatascience.wordpress.com/tag/deepseek/
[8] https://newrelic.com/blog/how-to-relic/ai-monitoring
[9] https://www.computerweekly.com/news/366618774/new-relic-extends-observabilité-toepseek
[10] https://newrelic.com/platform/ai-monitoring