New Resic的AI监视旨在在AI堆栈中提供全面的可见性,其中包括使用DeepSeek构建的应用程序。这种功能确实可以通过提供几个关键功能来帮助识别DeepSeek应用程序中的瓶颈:
1。完整的AI堆栈可见性:New Relic在应用程序,基础架构和AI层之间提供了整体视图。这包括诸如响应时间,令牌用法和错误率之类的指标,这对于识别使用DeepSeek [1] [4]等AI应用程序中的性能瓶颈至关重要。
2。深度跟踪见解:该平台提供详细的追踪功能,使开发人员可以跟踪复杂的AI响应的生命周期。通过分析如何处理输入并生成输出,此功能对于在DeepSeek模型中的性能问题进行故障排除特别有用[7]。
3.实时洞察力:New Relic的AI监视提供了AI堆栈,跨越服务,基础架构和AI层的实时见解。这通过提供吞吐量,延迟和成本的全面指标[2] [6]来确保有效,可靠和具有成本效益的操作。
4。模型比较:该平台允许进行模型比较,使开发人员能够评估AI模型之间切换时的性能影响。此功能可通过根据性能和成本指标选择最有效的模型来优化DeepSeek应用程序[5] [9]。
5。增强数据安全性:New Relic的监视包括诸如drop滤波器之类的功能,可以选择性排除敏感数据类型,从而确保合规性和保护用户隐私。这对于在对瓶颈进行故障排除时保持对AI应用程序的信任非常重要[1]。
6。可靠性保证和质量:通过为DeepSeek驱动的AI应用程序表现提供全面的可见性,New Relic可帮助企业快速识别和解决问题。这种可靠性保证对于维持高质量的AI服务和及时解决瓶颈至关重要[2] [6]。
总体而言,New Relic的AI监视功能齐全,可以通过提供一套全面的绩效优化,模型选择和实时监控的工具来帮助识别和解决DeepSeek应用程序中的瓶颈。
引用:
[1] https://docs.newrelic.com/whats-new/2024/03/whats-new-03-28-aimonitoringga/
[2] https://theexchangeasia.com/new-relic-unveils-first-first-ever-ever-ai-observaribaly-for-deepseek/
[3] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring
[4] https://newrelic.com/blog/how-to-relic/ai-in-in-observability
[5] https://newrelic.com/press-release/20250203
[6] https://ecommercenews.com.au/story/new-relic-unveils-ai-monitoring-for-deepseek-applications
[7] https://newrelic.com/blog/nerdlog/ai-monitoring-ga
[8] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-deepseek
[9] https://newrelic.com/platform/ai-monitoring