Home Arrow Icon Knowledge base Arrow Icon Global Arrow Icon 可以在DeepSeek应用程序中进行成本优化的新遗物AI监视轨道的使用情况


可以在DeepSeek应用程序中进行成本优化的新遗物AI监视轨道的使用情况


是的,新的遗物AI监视可以跟踪令牌用法,以在DeepSeek应用程序中进行成本优化。该功能是新Relic综合可观察性解决方案的一部分,专门用于监视DeepSeek(一种生成的AI(Genai)模型)。通过将New Relic的AI监控与DeepSeek集成,企业可以在其AI应用程序中获得全面的可见性,包括关键指标,例如令牌使用,吞吐量,延迟和成本。此集成支持Microsoft Azure AI Foundry上的DeepSeek和DeepSeek,并提供了具有增强数据安全的简化设置[1] [2] [4]。

跟踪令牌使用成本优化:

New Relic的AI监视允许企业跟踪令牌使用率,这对于管理AI开发成本至关重要。令牌用法是确定运行AI模型成本的重要因素,因为许多AI服务基于处理的令牌数量。通过监视令牌使用情况,公司可以通过识别可以在不损害性能的情况下降低令牌使用的领域来优化其AI成本。此功能还使企业能够就模型选择和部署做出明智的决定,以确保他们为其应用程序选择最具成本效益的模型[5] [8]。

新遗物AI监视DeepSeek的好处:

1。可靠性保证和质量:新遗物提供了对DeepSeek驱动的AI应用程序性能的全面可见性,从而使企业可以快速识别和解决问题。这样可以确保应用程序可靠地运行并保持高质量[1] [4]。

2。成本优化:通过跟踪令牌使用和其他与成本相关的指标,企业可以优化其AI开发成本。当使用诸如DeepSeek之类的具有成本效益的模型时,这一点尤其重要,这些模型以较低的成本提供了高级推理功能[1] [5]。

3。对模型切换的信心:新雷克斯的模型比较功能使企业能够评估AI模型对性能和成本之间的切换的影响。这有助于做出明智的决定,以了解要部署哪些模型以及何时切换,以确保所选模型与业务需求和预算约束保持一致[4] [5]。

4。加速创新:New Relic的AI监控和DeepSeek的开放模型的结合加速了AI的创新和部署。这使企业能够更有效地采用和优化AI技术,推动更快的创新并保持市场上的竞争优势[1] [7]。

总体而言,New Relic对DeepSeek应用程序的AI监视提供了一种强大的解决方案,可以通过令牌使用跟踪以及其他好处来优化AI成本,并帮助企业有效地导航复杂的AI景观。

引用:
[1] https://theexchangeasia.com/new-relic-unveils-first-ever-ever-ever-ai-observaribaly-for-deepseek/
[2] https://www.dqchannels.com/news/new-relic-intrododuces-bobserverasibility-solution-solution-for-deepseek-ai-monitoring-8689063
[3] https://docs.newrelic.com/docs/ai-monitoring/explore-ai-data/view-ai-ai-responses/
[4] https://newrelic.com/press-release/20250203
[5] https://ecommercenews.com.au/story/new-relic-unveils-ai-monitoring-for-deepseek-applications
[6] https://blog.devops.dev/aws-observability-tools-for-bedrock-large-large-lange-models-d732363993fd
[7] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-deepseek
[8] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring