El monitoreo de AI de New Relic está diseñado para proporcionar una visibilidad integral en la pila de IA, que incluye aplicaciones construidas con Deepseek. Esta capacidad puede ayudar a identificar cuellos de botella en aplicaciones Deepseek ofreciendo varias características clave:
1. Visibilidad completa de la pila de IA: la nueva reliquia proporciona una vista holística en la aplicación, la infraestructura y la capa de IA. Esto incluye métricas como tiempos de respuesta, uso de tokens y tasas de error, que son cruciales para identificar cuellos de botella de rendimiento en aplicaciones de IA como las construidas con Deepseek [1] [4].
2. Insights de rastreo profundo: la plataforma ofrece capacidades de rastreo detalladas que permiten a los desarrolladores rastrear el ciclo de vida de las respuestas complejas de IA. Esta característica es particularmente útil para solucionar problemas de rendimiento en modelos Deepseek al analizar cómo se procesan las entradas y se generan salidas [7].
3. Insights en tiempo real: el monitoreo de AI de New Relic ofrece ideas en tiempo real en la pila de IA, servicios de abarcación, infraestructura y la capa de IA. Esto garantiza operaciones eficientes, confiables y rentables al proporcionar métricas integrales sobre el rendimiento, la latencia y los costos [2] [6].
4. Comparación del modelo: la plataforma permite la comparación de modelos, lo que permite a los desarrolladores evaluar los impactos del rendimiento al cambiar entre los modelos de IA. Esta característica es beneficiosa para optimizar las aplicaciones Deepseek seleccionando los modelos más eficientes basados en el rendimiento y las métricas de costos [5] [9].
5. Seguridad de datos mejorada: el monitoreo de New Relic incluye características como filtros de caída que permiten la exclusión selectiva de tipos de datos confidenciales, garantizando el cumplimiento y la protección de la privacidad del usuario. Esto es importante para mantener la confianza en las aplicaciones de IA mientras soluciona los cuellos de botella [1].
6. Garantía y calidad de la fiabilidad: al proporcionar una visibilidad total para el rendimiento de la aplicación de IA consequeros de profundidad, la nueva reliquia ayuda a las empresas a identificar y resolver los problemas rápidamente. Esta garantía de confiabilidad es fundamental para mantener los servicios de IA de alta calidad y abordar los cuellos de botella de inmediato [2] [6].
En general, el monitoreo de AI de New Relic está bien equipado para ayudar a identificar y abordar los cuellos de botella en aplicaciones de Speedseek al ofrecer un conjunto integral de herramientas para la optimización del rendimiento, la selección de modelos y el monitoreo en tiempo real.
Citas:
[1] https://docs.newshelic.com/whats-new/2024/03/whats-new-03-28-aiMonitoringga/
[2] https://theexchangeasia.com/new-relic-unveils-first-ever-ai-observability-for-epseek/
[3] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring
[4] https://newrelic.com/blog/how-to-relic/ai-in-observability
[5] https://newrelic.com/press-release/20250203
[6] https://ecommercenews.com.au/story/new-relic-unveils-ai-monitoring-fordeepseek-applications
[7] https://newrelic.com/blog/nerdlog/ai-monitoring-ga
[8] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-epseek
[9] https://newrelic.com/platform/ai-monitoring