예, 새로운 Relic AI 모니터링은 심도있는 응용 프로그램에서 비용 최적화를 위해 토큰 사용량을 추적 할 수 있습니다. 이 기능은 생성 AI (GENAI) 모델 인 DeepSeek를 모니터링하기 위해 특별히 설계된 New Relic의 포괄적 인 관찰 가능성 솔루션의 일부입니다. 새로운 Relic의 AI 모니터링을 DeepSeek과 통합함으로써 기업은 토큰 사용, 처리량, 대기 시간 및 비용과 같은 주요 지표를 포함하여 AI 응용 프로그램에 대한 모든 가시성을 얻을 수 있습니다. 이 통합은 Microsoft Azure AI Foundry의 DeepSeek 및 DeepSeek을 지원하여 데이터 보안이 향상된 단순화 된 설정을 제공합니다 [1] [2] [4].
비용 최적화를위한 토큰 사용 추적 :
New Relic의 AI 모니터링을 통해 비즈니스는 토큰 사용량을 추적 할 수 있으며 이는 AI 개발 비용을 관리하는 데 중요합니다. Token 사용은 처리 된 토큰 수를 기반으로 많은 AI 서비스가 청구되므로 AI 모델 실행 비용을 결정하는 데 중요한 요소입니다. 토큰 사용을 모니터링함으로써 회사는 성능을 손상시키지 않고 토큰 사용을 줄일 수있는 영역을 식별하여 AI 비용을 최적화 할 수 있습니다. 이 기능을 통해 비즈니스는 모델 선택 및 배포에 대한 정보에 근거한 결정을 내릴 수있어 응용 프로그램에 가장 비용 효율적인 모델을 선택할 수 있습니다 [5] [8].
DeepSeek에 대한 새로운 유적 AI 모니터링의 이점 :
1. 신뢰성 보증 및 품질 : New Relic은 DeepSeek 기반 AI 애플리케이션 성능에 대한 모든 가시성을 제공하여 비즈니스가 문제를 신속하게 식별하고 해결할 수 있도록합니다. 이것은 응용 프로그램이 안정적으로 실행되고 고품질을 유지하도록합니다 [1] [4].
2. 비용 최적화 : 토큰 사용 및 기타 비용 관련 메트릭을 추적하여 비즈니스는 AI 개발 비용을 최적화 할 수 있습니다. 이는 DeepSeek와 같은 비용 효율적인 모델을 사용할 때 특히 중요합니다.이 모델은 저렴한 비용으로 고급 추론 기능을 제공합니다 [1] [5].
3. 모델 스위칭에 대한 신뢰 : 새로운 Relic의 모델 비교 기능을 통해 비즈니스는 AI 모델 간의 성능 및 비용에 대한 영향을 평가할 수 있습니다. 이를 통해 어떤 모델을 배포 할 것인지 및 전환시기에 대한 정보에 근거한 결정을 내려 선택한 모델이 비즈니스 요구 및 예산 제약과 일치하도록합니다 [4] [5].
4. 혁신 가속화 : 새로운 유물의 AI 모니터링과 DeepSeek의 오픈 모델의 조합은 AI 혁신 및 배포를 가속화합니다. 이를 통해 비즈니스는 AI 기술을보다 효율적으로 채택하고 최적화하여 더 빠른 혁신을 주도하고 시장에서 경쟁 우위를 유지할 수 있습니다 [1] [7].
전반적으로, DeepSeek 응용 프로그램에 대한 New Relic의 AI 모니터링은 토큰 사용 추적을 통해 AI 비용을 최적화하기위한 강력한 솔루션을 제공하여 기업이 복잡한 AI 환경을 효과적으로 탐색 할 수 있도록 도와줍니다.
인용 :
[1] https://theexchangeasia.com/new-relic-unveils-first-ever-ai-observability-for-deepseek/
[2] https://www.dqchannels.com/news/new-relic-introduces-observability-for-deepseek-ai-monitoring-8689063
[3] https://docs.newrelic.com/docs/ai-monitoring/explore-ai-data/view-ai-responses/
[4] https://newrelic.com/press-release/20250203
[5] https://ecommercenews.com.au/story/new-relic-unveils-ai-monitoring-for-deepseek-application
[6] https://blog.devops.dev/aws-observability-for-bedrock-large-models-d732363993fd
[7] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-deepseek
[8] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-onnitor-with-new-relic-ai- 모니터링