Het opzetten van nieuwe Relic AI -monitoring voor een DeepSeek -applicatie omvat verschillende belangrijke stappen die u helpen om uitgebreide zichtbaarheid te krijgen in de prestaties, kwaliteit en kosten van uw AI -applicatie. Hier is een gedetailleerde gids om het in te stellen:
Stap 1: instrument uw Deepseek -applicatie
Om uw Deepseek -applicatie te volgen met een nieuw relikwie, moet u eerst uw toepassing instrumenteren. Dit omvat het integreren van de APM -agenten van New Relic's Application Performance Monitoring (APM) in uw toepassing. Aangezien Deepseek een OpenAI-compatibele API gebruikt, kunt u de OpenAI SDK in uw toepassing gebruiken voor een gemakkelijkere integratie met nieuw relikwie [2].1. Meld u aan of log in: begin met u aan te melden voor een nieuw relikwie -account of in te loggen als u er al een hebt.
2. Toegang tot integraties en agenten: navigeer naar de sectie Integrations & Agents in uw nieuwe relikwie -dashboard.
3. Selecteer OpenAI -integratie: Typ OpenAI in de zoekbalk en selecteer deze. Dit komt omdat Deepseek -modellen compatibel zijn met OpenAI API's.
4. Kies uw programmeertaal: selecteer de programmeertaal die door uw toepassing wordt gebruikt (bijv. Python, node.js).
5. Volg Guided Onboarding: volg het begeleide onboarding -proces dat door nieuw relikwie wordt geleverd om uw toepassing te instrument. Dit proces zal u doorlopen door het instellen van de nodige configuraties voor AI -monitoring [2].
Stap 2: Toegang tot AI Monitoring
Zodra uw applicatie is geïnstrumenteerd, kunt u beginnen met het gebruik van nieuwe Relic AI -monitoring:1. Navigeer naar AI -monitoring: ga naar alle mogelijkheden in uw nieuwe relikwie -dashboard en klik op AI -monitoring.
2. Selecteer uw toepassing: Selecteer in het gedeelte AI Monitoring onder alle entiteiten uw Deepseek-toepassing (bijvoorbeeld "Deepseek-Local") om de prestatiegegevens te bekijken [2].
Stap 3: evalueer prestaties, kwaliteit en kosten
Met uw opstelling van uw applicatie kunt u nu belangrijke statistieken evalueren:1. APM 360 Samenvatting: Bekijk de APM 360 Samenvatting voor inzichten in statistieken zoals verzoeken, responstijden, tokengebruik en foutenpercentages. Dit helpt snel problemen te identificeren [2].
2. Diep tracingweergave: klik op AI -reacties in de samenvatting van APM 360 om gedetailleerde sporen te zien van gebruikersinvoer tot definitieve reactie, inclusief metadata -achtige tokentellingen en modelinformatie [2].
3. Modelkwaliteitsevaluatie: analyseer de reacties van grote taalmodel (LLM) om kwesties zoals toxiciteit of negativiteit te identificeren, hoewel deze functie momenteel in een beperkt preview staat [2].
Stap 4: Vergelijk modellen
Met nieuw relikwie kunt u verschillende AI -modellen vergelijken om de prestaties en kosten te optimaliseren:1. Modelvergelijking: gebruik de modelvergelijkingsmogelijkheden van New Relic om te beoordelen hoe het schakelen tussen modellen de prestaties en kosten van uw applicatie beïnvloedt. Dit helpt bij het selecteren van het meest geschikte model voor uw behoeften [3] [10].
Stap 5: Zorg voor gegevensprivacy en beveiliging
Om gevoelige gegevens te beschermen, kunt u dropfilters configureren:1. Maak dropfilters: navigeer naar drop -filters en maak filters om gevoelige gegevens (bijv. Persoonlijke identificeerbare informatie) uit te sluiten van uw AI -aanvragen en antwoorden [2].
Door deze stappen te volgen, kunt u effectief nieuwe RELIC AI -monitoring instellen voor uw DeepSeek -toepassing, waardoor waardevolle inzichten worden verkregen in de prestaties ervan en tegelijkertijd gegevens privacy en beveiliging garanderen.
Citaten:
[1] https://docs.newrelic.com/install/ai-monitoring/
[2] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoringing
[3] https://cxotoday.com/press-release/new-relic-announces-the-industrys-ine-observability-integration-with-Deepseek-to-accelerate-ai-adoption-and-roi/
[4] https://newrelic.com/blog/how-to-relic/ai-monitoring-for-nvidia-nim
[5] https://www.dqchannels.com/news/new-relic-introduces-observabiliteit-solution-for-deepeek-ai-onitoring-8689063
[6] https://newrelic.com/blog/how-to-relic/monitor-and-optimize-complex-web-apps-with-new-relic
[7] https://newrelic.com/blog/how-to-relic/ai-monitoringing
[8] https://ecommercenews.com.au/story/new-relic-unveils-ai-monitoring-for-Deepseek-applications
[9] https://docs.newrelic.com/docs/ai-monitoring/intro-to-ai-monitoring/
[10] https://newrelic.com/press-release/20250203