New Relic의 AI 모니터링은 AI 스택에서 포괄적 인 가시성을 제공하도록 설계되었으며, 여기에는 DeepSeek로 구축 된 응용 프로그램이 포함됩니다. 이 기능은 실제로 몇 가지 주요 기능을 제공하여 DeepSeek 응용 프로그램에서 병목 현상을 식별하는 데 도움이 될 수 있습니다.
1. 전체 AI 스택 가시성 : 새로운 유물은 응용 프로그램, 인프라 및 AI 계층에서 전체적인 관점을 제공합니다. 여기에는 응답 시간, 토큰 사용 및 오류율과 같은 메트릭이 포함되어 있으며, 이는 DeepSeek [1] [4]와 같은 AI 응용 프로그램에서 성능 병목 현상을 식별하는 데 중요합니다.
2. Deep Trace Insights :이 플랫폼은 개발자가 복잡한 AI 응답의 수명주기를 추적 할 수있는 자세한 추적 기능을 제공합니다. 이 기능은 입력이 처리되고 출력이 생성되는 방법을 분석하여 DeepSeek 모델의 성능 문제를 해결하는 데 특히 유용합니다 [7].
3. 실시간 통찰력 : New Relic의 AI 모니터링은 AI 스택, 스패닝 서비스, 인프라 및 AI 계층 전체에서 실시간 통찰력을 제공합니다. 이를 통해 처리량, 대기 시간 및 비용에 대한 포괄적 인 메트릭을 제공하여 효율적이고 신뢰할 수 있으며 비용 효율적인 운영을 보장합니다 [2] [6].
4. 모델 비교 : 플랫폼을 통해 모델 비교를 통해 개발자가 AI 모델간에 전환 할 때 성능 영향을 평가할 수 있습니다. 이 기능은 성능 및 비용 지표를 기반으로 가장 효율적인 모델을 선택하여 DeepSeek 애플리케이션을 최적화하는 데 유리합니다 [5] [9].
5. 향상된 데이터 보안 : New Relic의 모니터링에는 민감한 데이터 유형을 선택적으로 제외하여 준수 및 사용자 개인 정보 보호를 보장하는 드롭 필터와 같은 기능이 포함되어 있습니다. 이것은 병목 현상 문제를 해결하는 동안 AI 응용 프로그램에 대한 신뢰를 유지하는 데 중요합니다 [1].
6. 신뢰성 보증 및 품질 : DeepSeek 기반 AI 응용 프로그램 성능에 대한 모든 가시성을 제공함으로써 새로운 Relic은 비즈니스가 문제를 신속하게 식별하고 해결하도록 도와줍니다. 이 신뢰성 보증은 고품질 AI 서비스를 유지하고 병목 현상을 신속하게 해결하는 데 중요합니다 [2] [6].
전반적으로 New Relic의 AI 모니터링은 성능 최적화, 모델 선택 및 실시간 모니터링을위한 포괄적 인 도구 세트를 제공함으로써 DeepSeek 응용 프로그램에서 병목 현상을 식별하고 해결하는 데 잘 갖추어져 있습니다.
인용 :
[1] https://docs.newrelic.com/whats-new/2024/03/whats-new-03-28-aimonitoringga/
[2] https://theexchangeasia.com/new-relic-unveils-first-ever-ai-observability-for-deepseek/
[3] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-onnitor-with-new-relic-ai- 모니터링
[4] https://newrelic.com/blog/how-to-relic/ai-in-observability
[5] https://newrelic.com/press-release/20250203
[6] https://ecommercenews.com.au/story/new-relic-unveils-ai-monitoring-for-deepseek-application
[7] https://newrelic.com/blog/nerdlog/ai-monitoring-ga
[8] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-deepseek
[9] https://newrelic.com/platform/ai-monitoring