O monitoramento de IA da New Relic foi projetado para fornecer visibilidade abrangente em toda a pilha de IA, que inclui aplicativos construídos com Deepseek. Esse recurso pode realmente ajudar a identificar gargalos em aplicativos Deepseek, oferecendo vários recursos importantes:
1. Visibilidade completa da pilha de IA: a nova relínia fornece uma visão holística em todo o aplicativo, infraestrutura e camada de IA. Isso inclui métricas como tempos de resposta, uso de token e taxas de erro, que são cruciais para identificar gargalos de desempenho em aplicativos de IA como os construídos com Deepseek [1] [4].
2. Insights Deep Trace: A plataforma oferece recursos detalhados de rastreamento que permitem aos desenvolvedores rastrear o ciclo de vida das respostas complexas de IA. Esse recurso é particularmente útil para solucionar problemas de desempenho nos modelos Deepseek, analisando como as entradas são processadas e as saídas são geradas [7].
3. Insights em tempo real: o monitoramento de IA da New Relic oferece informações em tempo real em toda a pilha de IA, serviços de abrangência, infraestrutura e camada de IA. Isso garante operações eficientes, confiáveis e econômicas, fornecendo métricas abrangentes sobre taxa de transferência, latência e custos [2] [6].
4. Comparação do modelo: a plataforma permite a comparação de modelos, permitindo que os desenvolvedores avaliem os impactos de desempenho ao alternar entre os modelos de IA. Esse recurso é benéfico para otimizar aplicativos DeepSeek, selecionando os modelos mais eficientes com base nas métricas de desempenho e custo [5] [9].
5. Segurança de dados aprimorada: o monitoramento da New Relic inclui recursos como filtros de queda que permitem exclusão seletiva de tipos de dados confidenciais, garantindo a conformidade e protegendo a privacidade do usuário. Isso é importante para manter a confiança nos aplicativos de IA, enquanto soluciona gargalos [1].
6. Garantia de confiabilidade e qualidade: Ao fornecer total visibilidade ao desempenho do aplicativo de IA de vencimento profundo, a nova relínia ajuda as empresas a identificar e resolver rapidamente problemas. Essa garantia de confiabilidade é fundamental para manter serviços de IA de alta qualidade e abordar gargalos imediatamente [2] [6].
No geral, o monitoramento da AI da New Relic está bem equipado para ajudar a identificar e abordar gargalos em aplicativos Deepseek, oferecendo um conjunto abrangente de ferramentas para otimização de desempenho, seleção de modelos e monitoramento em tempo real.
Citações:
[1] https://docs.newrelic.com/whats-new/2024/03/whats-new-03-28-imonitoringga/
[2] https://theexchangeasia.com/new-relic-unveils-first--ai-observability-for-deepseek/
[3] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring
[4] https://newrelic.com/blog/how-to-relic/ai-in-observabilidade
[5] https://newrelic.com/press-release/20250203
[6] https://ecommercenews.com.au/story/new-relic-unveils-ai-monitoring-for-deepseek-pplications
[7] https://newrelic.com/blog/nerdlog/ai-monitoring-ga
[8] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-deepseek
[9] https://newrelic.com/platform/ai-monitoring