La configuración de un nuevo monitoreo de Relic AI para una aplicación DeepSeek implica varios pasos clave que lo ayudan a obtener una visibilidad integral en el rendimiento, la calidad y el costo de su aplicación de IA. Aquí hay una guía detallada sobre cómo configurarlo:
Paso 1: Instrumento su aplicación Deepseek
Para comenzar a monitorear su aplicación Deepseek con una nueva reliquia, primero debe instrumentar su aplicación. Esto implica la integración de los agentes de monitoreo del rendimiento de la aplicación de New Relic (APM) en su aplicación. Dado que Deepseek utiliza una API compatible con OpenAI, puede usar el SDK de Operai en su aplicación para una integración más fácil con una nueva reliquia [2].1. Regístrese o inicie sesión: Comience por registrarse para obtener una nueva cuenta de reliquia o iniciar sesión si ya tiene una.
2. Integraciones de acceso e agentes: navegue a la sección Integraciones y agentes en su nuevo tablero de reliquias.
3. Seleccione Integración de OpenAI: en la barra de búsqueda, escriba OpenAI y seleccione. Esto se debe a que los modelos Deepseek son compatibles con las API de OpenAI.
4. Elija su lenguaje de programación: seleccione el lenguaje de programación utilizado por su aplicación (por ejemplo, Python, Node.js).
5. Siga la incorporación guiada: siga el proceso de incorporación guiado proporcionado por New Relic para instrumentar su aplicación. Este proceso lo guiará a través de la configuración de las configuraciones necesarias para el monitoreo de IA [2].
Paso 2: Monitoreo de IA de acceso
Una vez que su aplicación esté instrumentada, puede comenzar a usar un nuevo monitoreo de Relic AI:1. Navegue al monitoreo de IA: vaya a todas las capacidades en su nuevo tablero de reliquias y haga clic en el monitoreo de IA.
2. Seleccione su aplicación: en la sección de monitoreo de IA, en todas las entidades, seleccione su aplicación Deepseek (por ejemplo, "Deepseek-Local") para ver sus datos de rendimiento [2].
Paso 3: Evaluar el rendimiento, la calidad y el costo
Con su aplicación configurada, ahora puede evaluar las métricas clave:1. Resumen de APM 360: Vea el resumen APM 360 para obtener información sobre métricas como solicitudes, tiempos de respuesta, uso de token y tasas de error. Esto ayuda a identificar problemas rápidamente [2].
2. Vista de rastreo profundo: haga clic en las respuestas de AI en el resumen APM 360 para ver rastros detallados desde la entrada del usuario hasta la respuesta final, incluidos metadatos como los recuentos de tokens y la información del modelo [2].
3. Evaluación de calidad del modelo: analizar respuestas del modelo de lenguaje grande (LLM) para identificar problemas como la toxicidad o la negatividad, aunque esta característica se encuentra actualmente en una vista previa limitada [2].
Paso 4: Compare modelos
La nueva reliquia le permite comparar diferentes modelos de IA para optimizar el rendimiento y el costo:1. Comparación del modelo: use las capacidades de comparación de modelos de New Relic para evaluar cómo el cambio entre modelos afecta el rendimiento y los costos de su aplicación. Esto ayuda a seleccionar el modelo más adecuado para sus necesidades [3] [10].
Paso 5: Asegurar la privacidad y la seguridad de los datos
Para proteger los datos confidenciales, puede configurar filtros de caída:1. Cree filtros de caída: navegue para soltar filtros y cree filtros para excluir datos confidenciales (por ejemplo, información de identificación personal) de sus solicitudes y respuestas de IA [2].
Siguiendo estos pasos, puede configurar efectivamente un nuevo monitoreo de Relic AI para su aplicación DeepSeek, obteniendo información valiosa sobre su rendimiento al tiempo que garantiza la privacidad y la seguridad de los datos.
Citas:
[1] https://docs.newshelic.com/install/ai-monitoring/
[2] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring
[3] https://cxotoday.com/press-release/new-relic-nounces-the-industry-only-observabilidad-integration-with-deepseek-to-accelate-ai-Adoption-and-roi/
[4] https://newrelic.com/blog/how-to-relic/ai-monitoring-for-nvidia-nim
[5] https://www.dqchannels.com/news/new-relic-introduces-observability-solution-fordeepseek-ai-monitoring-8689063
[6] https://newrelic.com/blog/how-to-relic/monitor-and-optimize-complex-web-apps-with-new-relic
[7] https://newrelic.com/blog/how-to-relic/ai-monitoring
[8] https://ecommercenews.com.au/story/new-relic-unveils-ai-monitoring-fordeepseek-applications
[9] https://docs.newshelic.com/docs/ai-monitoring/intro-to-ai-monitoring/
[10] https://newrelic.com/press-release/20250203