New Seric AI监视通过提供全面的可见性和可行的见解,从而显着提高了DeepSeek-R1模型的性能。这就是它的实现方式:
1。实时性能监控:新的遗物AI监视允许开发人员实时监视基于DeepSeek-R1模型的应用程序。这包括跟踪关键指标,例如性能,质量和成本,以快速识别和解决问题[1] [4]。
2。模型比较和优化:该平台提供模型比较功能,可帮助企业优化DeepSeek-R1模型的质量,性能和成本。此功能使开发人员可以评估不同模型之间切换的影响,从而确保他们为其特定应用需求选择最佳模型[4] [7]。
3。端到端的可见性:新的遗物AI监视与APM 360集成,以在整个AI堆栈中提供端到端的可见性。这包括服务,基础架构和AI模型,使开发人员可以将AI应用程序的性能与实时的上游和下游趋势相关联[10]。
4。深层跟踪和分析:该平台为每个AI响应提供了深刻的痕迹,从而使开发人员详细了解了其AI应用程序的工作原理。这有助于确定问题的异常值,趋势和根本原因,从而使故障排除更有效[10]。
5。数据安全性和隐私:新遗物通过允许开发人员将敏感数据排除在监视中,以确保在AI应用程序监视期间保护个人可识别信息(PII)[1] [11],从而支持数据隐私。
6。成本效率:通过与DeepSeek的成本效益模型集成,新的遗物AI监控有助于降低AI开发成本。它提供了有关令牌用法的见解,这对于优化AI应用程序成本至关重要[4] [11]。
总体而言,新的遗址AI监视通过提供全面的可观察性解决方案来简化AI应用程序的开发,部署和监视,同时确保可靠性,质量和成本效益,从而增强了DeepSeek-R1模型的性能。
引用:
[1] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-new-new-relic-ai-honitoring
[2] https://newrelic.com/blog/how-to-relic/performance-monitoring-newrelic-ai
[3] https://learn.odoo.com/groups/in-5/new-relic-extends-istends-istends-ib-monitoring-to-support-deepseek-4237?mode=date
[4] https://newrelic.com/press-release/20250203
[5] https://www.businesswire.com/news/home/20240423849633/en/new-relic-enhances-ai-monitoring-induspry--induspry%E2%80%99S-first-apm-forst-apm-for-for-for-for-ai
[6] https://blog.devops.dev/aws-observability-tools-for-bedrock-large-large-lange-models-d732363993fd
[7] https://radicaldatasciencien.wordpress.com/tag/deepseek/
[8] https://newrelic.com/blog/nerdlog/ai-monitoring-ga
[9] https://www.linkedin.com/posts/gariano_deploy-deepseek-models-locally-and-and-monitor-activity-729264553943226369-btjh
[10] https://newrelic.com/blog/how-to-relic/ai-monitoring
[11] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-deepseek