Ny Relic AI-overvåking forbedrer ytelsen til DeepSeek-R1-modeller betydelig ved å gi omfattende synlighet og handlingsrike innsikt i driften. Slik oppnår det dette:
1. Sanntidsytelsesovervåking: Ny Relic AI-overvåking lar utviklere overvåke applikasjoner bygget på DeepSeek-R1-modeller i sanntid. Dette inkluderer sporing av viktige beregninger som ytelse, kvalitet og kostnader, muliggjør rask identifisering og oppløsning av problemer [1] [4].
2. Modellsammenligning og optimalisering: Plattformen tilbyr modellsammenligningsfunksjoner, som hjelper bedrifter med å optimalisere kvaliteten, ytelsen og kostnadene for DeepSeek-R1-modeller. Denne funksjonen lar utviklere vurdere virkningen av å bytte mellom forskjellige modeller, og sikre at de velger den beste modellen for sine spesifikke applikasjonsbehov [4] [7].
3. Ende-til-ende-synlighet: Ny relikvie AI-overvåking integreres med APM 360 for å gi ende-til-ende synlighet over hele AI-stabelen. Dette inkluderer tjenester, infrastruktur og AI-modeller, slik at utviklere kan korrelere AI-applikasjonsytelse med oppstrøms og nedstrøms trender i sanntid [10].
4. Dyp sporing og analyse: Plattformen gir dype spor for hver AI -respons, og gir utviklere et detaljert syn på hvordan AI -applikasjonene deres fungerer. Dette hjelper med å identifisere outliers, trender og årsaker til problemer, noe som gjør feilsøking mer effektiv [10].
5. Datasikkerhet og personvern: Ny relikvie støtter personvern av data ved å la utviklere ekskludere sensitive data fra overvåking, og sikrer at personlig identifiserbar informasjon (PII) er beskyttet under AI -applikasjonsovervåking [1] [11].
6. Kostnadseffektivitet: Ved å integrere med DeepSeeks kostnadseffektive modeller, hjelper nye relikvier AI-overvåking med å redusere AI-utviklingskostnadene. Det gir innsikt i bruk av token, noe som er avgjørende for å optimalisere AI -applikasjonskostnader [4] [11].
Totalt sett forbedrer ny relikvie AI-overvåking ytelsen til DeepSeek-R1-modeller ved å tilby en omfattende observerbarhetsløsning som forenkler utvikling, distribusjon og overvåking av AI-applikasjoner, samtidig som den sikrer pålitelighet, kvalitet og kostnadseffektivitet.
Sitasjoner:
[1] https://newrelic.com/blog/how-to-relic/deploy-depseek-models-locally-and-monitor-with-new-relic-ai-monitoring
[2] https://newrelic.com/blog/how-to-relic/performance-monitoring-newrelic-ai
[3] https://learn.odoo.com/groups/in-5/new-relic-extends-its-ai-monitoring-to-support-peepseek-4237?mode=date
[4] https://newrelic.com/press-release/20250203
[5] https://www.businesswire.com/news/home/20240423849633/no/new-relic-eThances-ai-Monitoring-industry%E2%80%99S-first-apm-for-aai
[6] https://blog.devops.dev/aws-observability-tools-for-bedrock-large-splanguage-models-d732363993fd
[7] https://radicaldatascience.wordpress.com/tag/deepseek/
[8] https://newrelic.com/blog/nerdlog/ai-monitoring-ga
[9] https://www.linkedin.com/posts/gariano_deploy-depseek-models-locally-and-monitor-activity-7292645533943226369-BTJH
[10] https://newrelic.com/blog/how-to-relic/ai-monitoring
[11] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-depseek