Oui, la nouvelle surveillance de l'IA Relic peut suivre l'utilisation de jetons pour l'optimisation des coûts dans les applications Deepseek. Cette capacité fait partie de la solution d'observabilité complète de New Relic conçue spécifiquement pour surveiller Deepseek, un modèle génératif de l'IA (Genai). En intégrant la surveillance de l'IA de New Relic avec Deepseek, les entreprises peuvent obtenir une pleine visibilité sur leurs applications d'IA, y compris des mesures clés telles que l'utilisation des jeaux, le débit, la latence et les coûts. Cette intégration prend en charge Deepseek et Deepseek sur la fonderie Microsoft Azure AI, fournissant une configuration simplifiée avec une sécurité de données améliorée [1] [2] [4].
Tracking Utilisation des jetons pour l'optimisation des coûts:
La surveillance de l'IA de New Relic permet aux entreprises de suivre l'utilisation des jetons, ce qui est crucial pour gérer les coûts de développement de l'IA. L'utilisation des jetons est un facteur important pour déterminer le coût de l'exécution des modèles d'IA, comme de nombreux services d'IA facturent sur le nombre de jetons traités. En surveillant l'utilisation des jetons, les entreprises peuvent optimiser leurs coûts d'IA en identifiant les domaines où l'utilisation des jetons peut être réduite sans compromettre les performances. Cette capacité permet également aux entreprises de prendre des décisions éclairées sur la sélection et le déploiement du modèle, garantissant qu'ils choisissent les modèles les plus rentables pour leurs applications [5] [8].
Avantages d'une nouvelle surveillance de l'IA de la relique pour Deepseek:
1. Assurance et qualité de la fiabilité: New Relic offre une visibilité complète sur les performances des applications d'IA à propulsion profonde, permettant aux entreprises d'identifier rapidement et de résoudre les problèmes. Cela garantit que les applications s'exécutent de manière fiable et maintiennent de haute qualité [1] [4].
2. Optimisation des coûts: en suivant l'utilisation des jetons et d'autres mesures liées aux coûts, les entreprises peuvent optimiser leurs coûts de développement d'IA. Ceci est particulièrement important lors de l'utilisation de modèles rentables comme Deepseek, qui offrent des capacités de raisonnement avancées à moindre coût [1] [5].
3. Confiance dans le changement de modèle: les fonctionnalités de comparaison des modèles de New Relic permettent aux entreprises d'évaluer l'impact de la commutation entre les modèles d'IA sur les performances et les coûts. Cela aide à prendre des décisions éclairées sur les modèles à déployer et quand changer, en garantissant que les modèles choisis s'alignent sur les besoins de l'entreprise et les contraintes budgétaires [4] [5].
4. Innovation accélérée: la combinaison de la surveillance de l'IA de New Relic et des modèles ouverts de Deepseek accélère l'innovation et le déploiement de l'IA. Cela permet aux entreprises d'adopter et d'optimiser les technologies d'IA plus efficacement, à conduire une innovation plus rapide et à maintenir un avantage concurrentiel sur le marché [1] [7].
Dans l'ensemble, la surveillance de l'IA de New Relic pour les applications profondes offre une solution robuste pour optimiser les coûts d'IA grâce au suivi de l'utilisation des jetons, entre autres avantages, aidant les entreprises à naviguer efficacement dans le paysage complexe de l'IA.
Citations:
[1] https://theexchangeasia.com/new-relic-unveils-first-ever-ai-observabilité-for-eepseek/
[2] https://www.dqchannels.com/news/new-relic-introduces-observabilité-solution-for-eepseek-ai-monitoring-8689063
[3] https://docs.newrelic.com/docs/ai-monitoring/explore-ai-data/view-ai-onsponses/
[4] https://newrelic.com/press-release/20250203
[5] https://ecommercenews.com.au/story/new-relic-unveils-ai-monitoring-for-deepseek-applications
[6] https://blog.devops.dev/aws-observability-tools-for-bedrock-large-language-models-d732363993fd
[7] https://www.computerweekly.com/news/366618774/new-relic-extends-observabilité-toepseek
[8] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring