Ano, nové monitorování AI Relic může sledovat využití tokenů pro optimalizaci nákladů v aplikacích DeepSeek. Tato schopnost je součástí komplexního řešení pozorovatelnosti společnosti New Relic určené speciálně pro monitorování modelu Deepseek, generativního modelu AI (Genai). Integrace monitorování AI společnosti Relic s Deepseekem mohou podniky získat plnou viditelnost do svých aplikací AI, včetně klíčových metrik, jako je využití tokenu, propustnost, latence a náklady. Tato integrace podporuje DeepSeek a Deepseek na slévárech Microsoft Azure AI a poskytuje zjednodušené nastavení se zvýšeným zabezpečením dat [1] [2] [4].
Sledování využití tokenů pro optimalizaci nákladů:
Monitorování AI společnosti New Relic umožňuje podnikům sledovat využití tokenů, což je zásadní pro řízení nákladů na rozvoj AI. Použití tokenu je významným faktorem při určování nákladů na běh modelů AI, protože mnoho účtů služeb AI na základě počtu zpracovaných žetonů. Sledováním využití tokenů mohou společnosti optimalizovat své náklady na AI identifikací oblastí, kde lze využití tokenu snížit bez ohrožení výkonu. Tato schopnost také umožňuje podnikům přijímat informovaná rozhodnutí o výběru a nasazení modelu a zajistit, aby si pro své aplikace vybíraly nákladově nejefektivnější modely [5] [8].
Výhody nového monitorování AI Relic pro DeepSeek:
1. Zajištění a kvalita spolehlivosti: Nová relikvie poskytuje plnou viditelnost do výkonnosti aplikací AI poháněného hlubokým hledáním, což podnikům umožňuje rychle identifikovat a vyřešit problémy. Tím je zajištěno, že aplikace jsou spolehlivě běží a udržují vysokou kvalitu [1] [4].
2. Optimalizace nákladů: Sledováním využití tokenů a dalších metrik souvisejících s náklady mohou podniky optimalizovat náklady na rozvoj AI. To je obzvláště důležité při používání nákladově efektivních modelů, jako je Deepseek, které nabízejí pokročilé odůvodnění za nižší náklady [1] [5].
3.. Důvěra v přepínání modelu: Nové porovnávací funkce modelu společnosti Relic umožňují podnikům posoudit dopad přepínání mezi modely AI na výkon a náklady. To pomáhá při rozhodování o tom, které modely mají nasadit a kdy se přepnout, a zajistit, aby vybrané modely byly v souladu s obchodními potřebami a rozpočtovými omezeními [4] [5].
4. Zrychlené inovace: Kombinace monitorování AI společnosti New Relic a otevřených modelů DeepSeek zrychluje inovace a nasazení AI. To umožňuje podnikům přijímat a optimalizovat technologie AI efektivněji, řídit rychlejší inovace a udržovat konkurenční výhodu na trhu [1] [7].
Celkově poskytuje monitorování AI AI společnosti New Relic pro aplikace DeepSeek robustní řešení pro optimalizaci nákladů AI prostřednictvím sledování používání tokenů, mimo jiné a pomáhá podnikům efektivně procházet komplexní krajinou AI.
Citace:
[1] https://theexchangeasia.com/new-relic-unveils-first-ever-ai-observability-for-reepseek/
[2] https://www.dqchannels.com/news/new-relic-inTroduces-Observability-solution-for-deepseek-ai-monitoring-8689063
[3] https://docs.newrelic.com/docs/ai-monitoring/explore-ata-data/view-ai-responses/
[4] https://newrelic.com/press-release/20250203
[5] https://ecommercenews.com.au/story/new-relic-unveils-aimonitor- for-deepseek-Applications
[6] https://blog.devops.dev/aws-observability-tools-for-hedrock-langage-language-models-d732363993fd
[7] https://www.computerweekly.com/news/366618774/new-relic-axtends-orservability-to-eepseek
[8] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally and-monitor-with-new-relic-imonitor