A configuração do novo monitoramento da Relic IA para um aplicativo Deepseek envolve várias etapas importantes que ajudam a obter uma visibilidade abrangente no desempenho, qualidade e custo do aplicativo de IA. Aqui está um guia detalhado sobre como configurá -lo:
Etapa 1: Instrument seu aplicativo Deepseek
Para começar a monitorar seu aplicativo DeepSeek com a nova relíquia, você precisa primeiro instrumentar seu aplicativo. Isso envolve a integração dos agentes de monitoramento de desempenho de aplicativos da New Relic (APM) em seu aplicativo. Como o DeepSeek usa uma API compatível com o OpenAI, você pode usar o SDK OpenAI em seu aplicativo para facilitar a integração com a nova relíquia [2].1. Inscreva -se ou faça login: comece inscrevendo -se para uma nova conta de relíquias ou efetuando login se você já tiver uma.
2. Acesso Integrações e agentes: Navegue até a seção Integrações e agentes no seu novo painel Relic.
3. Selecione Integração do OpenAI: Na barra de pesquisa, digite OpenAI e selecione -a. Isso ocorre porque os modelos Deepseek são compatíveis com as APIs OpenAI.
4. Escolha sua linguagem de programação: selecione a linguagem de programação usada pelo seu aplicativo (por exemplo, Python, Node.js).
5. Siga a integração guiada: siga o processo de integração guiado fornecido pela nova relíquia para instrumentar sua aplicação. Esse processo o levará a configurar as configurações necessárias para o monitoramento da IA [2].
Etapa 2: Acesse o monitoramento da IA
Depois que seu aplicativo for instrumentado, você pode começar a usar o novo monitoramento da Relic AI:1. Navegue até o monitoramento da IA: vá para todos os recursos no seu novo painel Relic e clique no monitoramento da IA.
2. Selecione seu aplicativo: Na seção de monitoramento da IA, em todas as entidades, selecione seu aplicativo Deepseek (por exemplo, "Deepseek-Local") para visualizar seus dados de desempenho [2].
Etapa 3: Avalie o desempenho, qualidade e custo
Com o seu aplicativo configurado, agora você pode avaliar as principais métricas:1. Resumo APM 360: Veja o resumo do APM 360 para obter informações sobre métricas como solicitações, tempos de resposta, uso de token e taxas de erro. Isso ajuda a identificar problemas rapidamente [2].
2. Visualização de rastreamento profundo: Clique em respostas da IA no resumo do APM 360 para ver traços detalhados da entrada do usuário à resposta final, incluindo metadados como contagens de token e informações de modelo [2].
3. Avaliação da qualidade do modelo: Analise as respostas do modelo de grande linguagem (LLM) para identificar questões como toxicidade ou negatividade, embora esse recurso esteja atualmente em visualização limitada [2].
Etapa 4: Compare modelos
A nova relíquia permite que você compare diferentes modelos de IA para otimizar o desempenho e o custo:1. Comparação do modelo: use os recursos de comparação de modelos da New Relic para avaliar como a alternância entre os modelos afeta o desempenho e os custos do seu aplicativo. Isso ajuda a selecionar o modelo mais adequado para suas necessidades [3] [10].
Etapa 5: verifique se a privacidade e segurança dos dados
Para proteger dados confidenciais, você pode configurar filtros de drop:1. Crie filtros de queda: Navegue até os filtros de soltar e criar filtros para excluir dados confidenciais (por exemplo, informações identificáveis pessoais) de suas solicitações e respostas de IA [2].
Seguindo essas etapas, você pode configurar efetivamente o novo monitoramento da Relic AI para o seu aplicativo Deepseek, obtendo informações valiosas sobre seu desempenho, garantindo a privacidade e a segurança dos dados.
Citações:
[1] https://docs.newrelic.com/install/ai-monitoring/
[2] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring
[3] https://cxotoday.com/pressa-release/new-relic-anounces-the-industry-lly-observability-integation-with-deepseek-to-ceceleate-ai-doption-and-roi/
[4] https://newrelic.com/blog/how-to-relic/ai-monitoring-for-nvidia-nim
[5] https://www.dqchannels.com/news/new-relic-introduces-observability-folution-for-deepseek-ai-monitoring-8689063
[6] https://newrelic.com/blog/how-to-relic/monitor-and-optimize-complex-web-apps-with-new-Relic
[7] https://newrelic.com/blog/how-to-relic/ai-monitoring
[8] https://ecommercenews.com.au/story/new-relic-unveils-ai-monitoring-for-deepseek-pplications
[9] https://docs.newrelic.com/docs/ai-monitoring/intro-to-ai-aimonitoring/
[10] https://newrelic.com/press-release/20250203