Nové monitorování AI Relic významně zvyšuje výkon modelů DeepSeek-R1 poskytováním komplexního viditelnosti a účetních vhledů do jejich provozu. Zde je to, jak toho dosáhne:
1. Monitorování výkonu v reálném čase: Nové monitorování AI Relic umožňuje vývojářům sledovat aplikace postavené na modelech DeepSeek-R1 v reálném čase. To zahrnuje metriky sledování klíčových metrik, jako je výkon, kvalita a náklady, umožňující rychlou identifikaci a řešení problémů [1] [4].
2. Porovnání a optimalizace modelu: Platforma nabízí schopnosti srovnání modelů, které pomáhají podnikům optimalizovat kvalitu, výkon a náklady na modely DeepSeek-R1. Tato funkce umožňuje vývojářům posoudit dopad přepínání mezi různými modely a zajistit, aby si vybrali nejlepší model pro své specifické potřeby aplikací [4] [7].
3. Viditelnost end-to-end: Nové monitorování AI Relic se integruje s APM 360, aby se zajistilo viditelnost end-to-end v celém zásobníku AI. To zahrnuje služby, infrastrukturu a modely AI, což umožňuje vývojářům korelovat výkon aplikací AI s trendy proti proudu a downstream v reálném čase [10].
4. Hluboké sledování a analýza: Platforma poskytuje hluboké stopy pro každou odpověď AI, což vývojářům poskytuje podrobný pohled na to, jak jejich aplikace AI fungují. To pomáhá identifikovat odlehlé hodnoty, trendy a kořenové příčiny problémů, díky čemuž je řešení problémů efektivnější [10].
5. Zabezpečení a soukromí dat: Nová Relic podporuje soukromí dat tím, že vývojářům umožňuje vyloučit citlivá data z monitorování a zajistit, aby osobní identifikovatelné údaje (PII) byly chráněny během sledování aplikací AI [1] [11].
6. Efektivita nákladů: Integrace do nákladově efektivních modelů DeepSeek pomáhá nové monitorování AI relic snižovat náklady na vývoj AI. Poskytuje vhled do využití tokenů, což je zásadní pro optimalizaci nákladů na aplikaci AI [4] [11].
Celkově nové monitorování AI Relic zvyšuje výkon modelů DeepSeek-R1 tím, že nabízí komplexní řešení pozorovatelnosti, které zjednodušuje vývoj, nasazení a monitorování aplikací AI a zároveň zajišťuje spolehlivost, kvalitu a efektivitu nákladů.
Citace:
[1] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally and-monitor-with-new-relic-imonitor
[2] https://newrelic.com/blog/how-to-relic/performance-monitoring-newrelic-ai
[3] https://learn.odoo.com/groups/in-5/new-relic-axtends-its-ai-monitoring-to-support-deepseek-4237?mode=Date
[4] https://newrelic.com/press-release/20250203
[5] https://www.businesswire.com/news/home/20240423849633/en/New-relic-enhances-monitoring-industry%E2%80%99s-first-for-ai
[6] https://blog.devops.dev/aws-observability-tools-for-hedrock-langage-language-models-d732363993fd
[7] https://radicaldatascience.wordpress.com/tag/deepseek/
[8] https://newrelic.com/blog/nerdlog/ai-monitoring-ga
[9] https://www.linkedin.com/posts/gariano_deploy-deepseek-models-locally and-monitor-Activity-7292645533943226369-btjh
[10] https://newrelic.com/blog/how-to-relic/ai-monitoring
[11] https://www.computerweekly.com/news/366618774/new-relic-axtends-orservability-to-eepseek