La creazione di una nuova reliquia di AI monitoraggio per un'applicazione DeepSeek comporta diversi passaggi chiave che ti aiutano a ottenere una visibilità completa sulle prestazioni, sulla qualità e sui costi dell'applicazione dell'IA. Ecco una guida dettagliata su come configurarlo:
Passaggio 1: strumento la tua applicazione DeepSeek
Per iniziare a monitorare l'applicazione DeepSeek con New Relic, è necessario prima stringere la tua applicazione. Ciò comporta l'integrazione di agenti APM (APM) di Monitoraggio delle prestazioni delle applicazioni di New Relic nella tua applicazione. Poiché DeepSeek utilizza un'API compatibile con OpenAI, è possibile utilizzare OpenAI SDK nell'applicazione per una più facile integrazione con New Relic [2].1. Iscriviti o accedi: Inizia registrandoti per un nuovo account reliquia o accedendo se ne hai già uno.
2. Accesso Integrazioni e agenti: vai alla sezione Integrazioni e agenti nella nuova dashboard di reliquia.
3. Selezionare OpenII Integrazione: nella barra di ricerca, digitare OpenAI e selezionarlo. Questo perché i modelli DeepSeek sono compatibili con le API OpenAI.
4. Scegli il linguaggio di programmazione: seleziona il linguaggio di programmazione utilizzato dall'applicazione (ad es. Python, node.js).
5. Segui Onboarding guidato: seguire il processo di onboarding guidato fornito da New Relic per strumentare l'applicazione. Questo processo ti accompagnerà impostando le configurazioni necessarie per il monitoraggio dell'IA [2].
PASSAGGIO 2: Accedi al monitoraggio dell'IA
Una volta che l'applicazione è strumentata, puoi iniziare a utilizzare il monitoraggio di nuova reliquia:1. Passa al monitoraggio dell'intelligenza artificiale: vai a tutte le funzionalità nella nuova dashboard di reliquia e fai clic sul monitoraggio dell'intelligenza artificiale.
2. Selezionare l'applicazione: nella sezione di monitoraggio AI, in tutte le entità, selezionare l'applicazione DeepSeek (ad esempio, "DeepSeek-Local") per visualizzare i suoi dati sulle prestazioni [2].
Passaggio 3: valutare prestazioni, qualità e costo
Con l'impostazione dell'applicazione, ora puoi valutare le metriche chiave:1. Riepilogo APM 360: visualizzare il riepilogo APM 360 per approfondimenti su metriche come richieste, tempi di risposta, utilizzo dei token e tassi di errore. Questo aiuta a identificare rapidamente i problemi [2].
2. Vista di traccia profonda: fare clic sulle risposte AI nel riepilogo APM 360 per visualizzare le tracce dettagliate dall'input dell'utente alla risposta finale, inclusi metadati come conteggi di token e informazioni sul modello [2].
3. Valutazione della qualità del modello: analizzare le risposte del modello di grande lingua (LLM) per identificare questioni come la tossicità o la negatività, sebbene questa funzione sia attualmente in anteprima limitata [2].
Passaggio 4: confronta i modelli
New Relic consente di confrontare diversi modelli di intelligenza artificiale per ottimizzare le prestazioni e i costi:1. Questo aiuta a selezionare il modello più adatto per le tue esigenze [3] [10].
Passaggio 5: garantire la privacy e la sicurezza dei dati
Per proteggere i dati sensibili, è possibile configurare i filtri di caduta:1. Creare filtri drop: navigare per rilasciare filtri e creare filtri per escludere i dati sensibili (ad es. Informazioni di identificazione personale) dalle richieste e dalle risposte AI [2].
Seguendo questi passaggi, è possibile impostare efficacemente un nuovo monitoraggio di AI Relic AI per la tua applicazione DeepSeek, ottenendo preziose approfondimenti sulle sue prestazioni garantendo al contempo la privacy e la sicurezza dei dati.
Citazioni:
[1] https://docs.newrelic.com/install/ai-monitoring/
[2] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring
[3] https://cxotoday.com/press-release/new-relic-announces-the-industrys-only-observability-integration-with-deepseek-to-acce-ai-adoption-and-roi
[4] https://newrelic.com/blog/how-to-relic/ai-monitoring-for-nvidia-nim
[5] https://www.dqchannels.com/news/new-relic-introduces-observability-solution-for-deepseek-aai-monitors-8689063
[6] https://newrelic.com/blog/how-to-relic/monitor-and-optimize-complex-web-apps-with-new-relic
[7] https://newrelic.com/blog/how-to-relic/ai-monitoring
[8] https://embimercenews.com.au/story/new-relic-unveils-ai-monitoring-for-deepseek-applications
[9] https://docs.newrelic.com/docs/ai-monitoring/intro-to-ai-monitoring/
[10] https://newrelic.com/press-release/20250203