Sí, el nuevo monitoreo de Relic AI puede rastrear el uso de tokens para la optimización de costos en aplicaciones de Speek. Esta capacidad es parte de la solución de observabilidad integral de New Relic diseñada específicamente para monitorear Deepseek, un modelo generativo de IA (Genai). Al integrar el monitoreo de AI de New Relic con Deepseek, las empresas pueden obtener una visibilidad total en sus aplicaciones de IA, incluidas las métricas clave como el uso de tokens, el rendimiento, el latencia y los costos. Esta integración admite Deepseek y Deepseek en Microsoft Azure Ai Foundry, proporcionando una configuración simplificada con una mayor seguridad de datos [1] [2] [4].
Seguimiento de uso del token para la optimización de costos:
El monitoreo de AI de New Relic permite a las empresas rastrear el uso de tokens, lo cual es crucial para administrar los costos de desarrollo de IA. El uso del token es un factor significativo para determinar el costo de ejecutar modelos de IA, ya que muchos servicios de IA cobran en función del número de tokens procesados. Al monitorear el uso de tokens, las empresas pueden optimizar sus costos de IA mediante la identificación de áreas donde el uso de tokens puede reducirse sin comprometer el rendimiento. Esta capacidad también permite a las empresas tomar decisiones informadas sobre la selección y la implementación del modelo, asegurando que elijan los modelos más rentables para sus aplicaciones [5] [8].
Beneficios del nuevo monitoreo de Relic AI para Deepseek:
1. Aseguramiento de la fiabilidad y calidad: la nueva reliquia proporciona una visibilidad total para el rendimiento de la aplicación de inteligencia artificial con un paso profundo, lo que permite a las empresas identificar y resolver rápidamente los problemas. Esto garantiza que las aplicaciones funcionen de manera confiable y mantengan una alta calidad [1] [4].
2. Optimización de costos: mediante el seguimiento del uso del token y otras métricas relacionadas con los costos, las empresas pueden optimizar sus costos de desarrollo de IA. Esto es particularmente importante cuando se utilizan modelos rentables como Deepseek, que ofrecen capacidades de razonamiento avanzado a un costo menor [1] [5].
3. Confianza en el cambio de modelo: las características de comparación de modelos de New Relic permiten a las empresas evaluar el impacto del cambio entre los modelos de IA en el rendimiento y los costos. Esto ayuda a tomar decisiones informadas sobre qué modelos implementar y cuándo cambiar, asegurando que los modelos elegidos se alineen con las necesidades comerciales y las limitaciones presupuestarias [4] [5].
4. Innovación acelerada: la combinación de los modelos abiertos de AI de New Relic y los modelos abiertos de Deepseek acelera la innovación y el despliegue de IA. Esto permite a las empresas adoptar y optimizar las tecnologías de IA de manera más eficiente, impulsando la innovación más rápida y manteniendo una ventaja competitiva en el mercado [1] [7].
En general, el monitoreo de AI de New Relic para aplicaciones DeepSeek proporciona una solución sólida para optimizar los costos de IA a través del seguimiento de uso de tokens, entre otros beneficios, ayudando a las empresas a navegar por el complejo panorama de IA de manera efectiva.
Citas:
[1] https://theexchangeasia.com/new-relic-unveils-first-ever-ai-observability-for-epseek/
[2] https://www.dqchannels.com/news/new-relic-introduces-observability-solution-fror-epseek-ai-monitoring-8689063
[3] https://docs.newshelic.com/docs/ai-monitoring/explore-ai-data/view-ai-responses/
[4] https://newrelic.com/press-release/20250203
[5] https://ecommercenews.com.au/story/new-relic-unveils-ai-monitoring-fordeepseek-applications
[6] https://blog.devops.dev/aws-observability-tools-for-bedrock-large-language-models-d732363993fd
[7] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-epseek
[8] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring