Sim, o novo monitoramento da Relic AI pode rastrear o uso do token para otimização de custos em aplicativos Deepseek. Essa capacidade faz parte da solução abrangente de observabilidade da New Relic, projetada especificamente para monitorar o Deepseek, um modelo de IA generativo (GENAI). Ao integrar o monitoramento da IA da New Relic com a Deepseek, as empresas podem obter visibilidade total em seus aplicativos de IA, incluindo métricas -chave, como uso de token, taxa de transferência, latência e custos. Essa integração suporta Deepseek e DeepSeek na Microsoft Azure AI Foundry, fornecendo uma configuração simplificada com segurança de dados aprimorada [1] [2] [4].
Rastreando o uso do token para otimização de custos:
O monitoramento de IA da New Relic permite que as empresas rastreem o uso de token, o que é crucial para gerenciar os custos de desenvolvimento da IA. O uso do token é um fator significativo na determinação do custo da execução dos modelos de IA, pois muitos serviços de IA cobram com base no número de tokens processados. Ao monitorar o uso do token, as empresas podem otimizar seus custos de IA, identificando as áreas onde o uso do token pode ser reduzido sem comprometer o desempenho. Esse recurso também permite que as empresas tomem decisões informadas sobre a seleção e implantação de modelos, garantindo que elas escolham os modelos mais econômicos para suas aplicações [5] [8].
Benefícios do novo monitoramento da Relic IA para Deepseek:
1. Garantia de confiabilidade e qualidade: a nova relínia fornece visibilidade total do desempenho do aplicativo de IA de vencimento profundo, permitindo que as empresas identifiquem e resolvam rapidamente problemas. Isso garante que os aplicativos sejam executados de maneira confiável e mantenham alta qualidade [1] [4].
2. Otimização de custos: Ao rastrear o uso do token e outras métricas relacionadas a custos, as empresas podem otimizar seus custos de desenvolvimento de IA. Isso é particularmente importante ao usar modelos econômicos como o DeepSeek, que oferecem recursos avançados de raciocínio a um custo menor [1] [5].
3. Confiança na troca de modelos: os recursos de comparação de modelos da New Relic permitem que as empresas avaliem o impacto da alternância entre os modelos de IA no desempenho e nos custos. Isso ajuda a tomar decisões informadas sobre quais modelos implantar e quando alternar, garantindo que os modelos escolhidos se alinhem às necessidades de negócios e às restrições orçamentárias [4] [5].
4. Inovação acelerada: A combinação do monitoramento da AI da New Relic e dos modelos abertos da Deepseek acelera a inovação e a implantação da IA. Isso permite que as empresas adotem e otimizem as tecnologias de IA com mais eficiência, impulsionando a inovação mais rápida e mantendo uma vantagem competitiva no mercado [1] [7].
No geral, o monitoramento da AI da New Relic para aplicativos Deepseek fornece uma solução robusta para otimizar os custos de IA por meio de rastreamento de uso de token, entre outros benefícios, ajudando as empresas a navegar no cenário complexo da IA de maneira eficaz.
Citações:
[1] https://theexchangeasia.com/new-relic-unveils-first-i-ai-observability-for-deepseek/
[2] https://www.dqchannels.com/news/new-relic-introduces-observability-folution-for-deepseek-ai-monitoring-8689063
[3] https://docs.newrelic.com/docs/ai-monitoring/explore-ai-data/view-ai-raponps/
[4] https://newrelic.com/press-release/20250203
[5] https://ecommercenews.com.au/story/new-relic-unveils-ai-monitoring-for-deepseek-pplications
[6] https://blog.devops.dev/aws-observability-tools-for-bedrock-large-language-models-d732363993fd
[7] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-deepseek
[8] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring