Nastavení nového monitorování AI Relic pro aplikaci DeepSeek zahrnuje několik klíčových kroků, které vám pomohou získat komplexní viditelnost ve výkonu, kvalitě a nákladech aplikace vaší aplikace AI. Zde je podrobný průvodce, jak jej nastavit:
Krok 1: Instrument Vaše aplikace DeepSeek
Chcete -li začít monitorovat svou aplikaci DeepSeek s New Relic, musíte nejprve napsat aplikaci. To zahrnuje integraci agentů pro monitorování výkonu aplikací Relic do vaší aplikace. Protože DeepSeek používá API kompatibilní s OpenAI, můžete použít OpenAI SDK ve své aplikaci pro snadnější integraci s New Relic [2].1. Zaregistrujte se nebo se přihlaste: Začněte přihlášením k novému účtu Relic nebo přihlášením, pokud jej již máte.
2. Přístupové integrace a agenti: Přejděte do sekce Integration & Agents ve vašem novém palubní desce Relic.
3. Vyberte OpenAI Integrace: Na vyhledávacím panelu zadejte OpenAI a vyberte jej. Je to proto, že modely DeepSeek jsou kompatibilní s OpenAI API.
4. Vyberte svůj programovací jazyk: Vyberte programovací jazyk používaný v aplikaci (např. Python, Node.js).
5. Sledujte na palubě řízených: Postupujte podle procesu řízeného na palubě poskytované novou relikvií k nástroji vaší aplikace. Tento proces vás provede nastavením nezbytných konfigurací pro monitorování AI [2].
Krok 2: Přístup k monitorování AI
Jakmile je vaše aplikace nástroje, můžete začít používat nové monitorování AI Relic:1. Přejděte na monitorování AI: Přejděte na všechny schopnosti ve vašem novém palubní desce Relic a klikněte na monitorování AI.
2. Vyberte svou aplikaci: V sekci AI monitorování vyberte podle všech entit svou aplikaci DeepSeek (např. „DeepSeek-local“) a zobrazte jeho údaje o výkonu [2].
Krok 3: Vyhodnoťte výkon, kvalitu a náklady
S nastavením vaší aplikace můžete nyní vyhodnotit klíčové metriky:1. Shrnutí APM 360: Zobrazit souhrn APM 360 pro informace o metrikách, jako jsou požadavky, doba odezvy, použití tokenu a míra chyb. To pomáhá rychle identifikovat problémy [2].
2. Zobrazení hlubokého sledování: Kliknutím na odpovědi AI v souhrnu APM 360 zobrazíte podrobné stopy od vstupu uživatele k konečné odpovědi, včetně počtu tokenů a informací o modelu [2].
3. Hodnocení kvality modelu: Analyzujte odpovědi na velký jazykový model (LLM) na identifikaci problémů, jako je toxicita nebo negativita, ačkoli tato funkce je v současné době v omezeném náhledu [2].
Krok 4: Porovnejte modely
Nová Relic vám umožňuje porovnat různé modely AI pro optimalizaci výkonu a nákladů:1. Porovnání modelu: Pomocí možností porovnávání modelů společnosti Relic posoudit, jak přepínání mezi modely ovlivňuje výkon a náklady vaší aplikace. To pomáhá při výběru nejvhodnějšího modelu pro vaše potřeby [3] [10].
Krok 5: Zajistěte soukromí a zabezpečení dat
Chcete -li chránit citlivá data, můžete nakonfigurovat filtry Drop:1. Vytvořte filtry Drop: přejděte na filtry Drop a vytvořte filtry pro vyloučení citlivých dat (např. Osobní identifikovatelné údaje) z vašich požadavků a odpovědí AI [2].
Dodržováním těchto kroků můžete efektivně nastavit nové monitorování AI Relic pro vaši aplikaci DeepSeek a získat cenné informace o jejím výkonu a zajistit soukromí a zabezpečení dat.
Citace:
[1] https://docs.newrelic.com/install/ai-monitoring/
[2] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally and-monitor-with-new-relic-imonitor
[3] https://cxotoday.com/press-release/new-relic-announces-the-industrys-etly-orservability-integration-with-deepseek-to-accelerated-adoption-and-roi/
[4] https://newrelic.com/blog/how-to-relic/ai-monitoring-for-nvidia-nim
[5] https://www.dqchannels.com/news/new-relic-inTroduces-Observability-solution-for-deepseek-ai-monitoring-8689063
[6] https://newrelic.com/blog/how-to-relic/monitor-and-optimize-complex-apps-with-new-relic
[7] https://newrelic.com/blog/how-to-relic/ai-monitoring
[8] https://ecommercenews.com.au/story/new-relic-unveils-aimonitor-
[9] https://docs.newrelic.com/docs/ai-monitoring/intro-to-ai-monitoring/
[10] https://newrelic.com/press-release/20250203