새로운 Relic AI 모니터링은 여러 주요 메트릭을 추적하여 DeepSeek 응용 프로그램에 대한 포괄적 인 가시성을 제공합니다. 이러한 메트릭은 AI 애플리케이션에서 성능, 품질 및 비용을 최적화하는 데 중요합니다. 다음은 새로운 Relic AI 모니터링이 DeepSeek 응용 프로그램을 위해 추적 할 수있는 특정 메트릭 및 기능입니다.
1. 처리량 및 대기 시간 : 새로운 Relic AI 모니터링을 통해 사용자는 DeepSeek 응용 프로그램에서 처리량 및 대기 시간을 추적 할 수 있습니다. 이것은 AI 모델이 요청을 처리하는 방법을 이해하고 성능에 영향을 줄 수있는 잠재적 병목 현상을 식별하는 데 도움이됩니다 [1] [4] [7].
2. 비용 지표 : 플랫폼은 토큰 사용을 추적하며, 이는 AI 개발 비용을 관리하는 데 필수적입니다. 토큰 사용량을 모니터링함으로써 비즈니스는 AI 비용을 최적화하고 비용 효율성에 따라 모델 선택에 대한 정보에 근거한 결정을 내릴 수 있습니다 [1] [3].
3. 모델 비교 : New Relic을 사용하면 DeepSeek를 포함한 다양한 AI 모델을 비교하여 성능 및 비용 영향을 평가할 수 있습니다. 이 기능은 비즈니스가 응용 프로그램에 가장 적합한 모델을 선택하여 최적의 성능과 비용 효율성을 보장합니다 [1] [3] [9].
4. 응답 품질 및 AI 지표 : 새로운 Relic AI 모니터링은 응답 품질 및 토큰 수와 같은 AI 메트릭에 대한 통찰력을 제공합니다. 또한 감정 분석 및 사용자 피드백을 포함한 LLM 응답에 대한 통합 관점을 제공하여 AI 응답에서 트렌드 및 특이 치를 식별하는 데 도움이됩니다 [2] [5].
5. Deep Trace Insights :이 플랫폼은 사용자가 복잡한 AI 응답의 수명을 추적 할 수있는 깊은 추적 기능을 제공합니다. 이 기능은 AI 출력에서 편견, 독성 및 환각과 같은 성능 문제 및 품질 문제를 디버깅하는 데 특히 유용합니다 [2] [8].
6. 인프라 및 애플리케이션 통찰력 : New Relic은 응용 프로그램, 인프라 및 AI 계층에서 전체적인 관점을 제공합니다. 이 포괄적 인 가시성은 문제를 식별하고 전반적인 시스템 성능을 최적화하는 데 도움이됩니다 [2] [5].
7. 데이터 보안 및 개인 정보 보호 : 새로운 Relic에는 모니터링에서 특정 데이터 유형을 선택적으로 제외하여 민감한 데이터를 보호 할 수있는 기능이 포함되어 있습니다. 이를 통해 개인 정보 보호 규정 준수를 보장하고 사용자 데이터를 보호합니다 [2] [3].
이러한 메트릭을 추적하고 이러한 기능을 활용하여 비즈니스는 더 나은 성능, 신뢰성 및 비용 효율성을 위해 심도있는 응용 프로그램을 최적화 할 수 있습니다.
인용 :
[1] https://www.dqchannels.com/news/new-relic-introduces-observability-solution-for-deepseek-ai-monitoring-8689063
[2] https://docs.newrelic.com/whats-new/2024/03/whats-new-03-28-aimonitoringga/
[3] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-onnitor-with-new-relic-ai- 모니터링
[4] https://ecommercenews.com.au/story/new-relic-unveils-ai-onitoring-for-deepseek-application
[5] https://newrelic.com/blog/how-to-relic/ai-in-observability
[6] https://docs.newrelic.com/docs/ai-monitoring/explore-ai-data/view-ai-responses/
[7] https://www.itopstimes.com/ai/new-relic-creates-observability-integration-with-deepseek/
[8] https://newrelic.com/blog/nerdlog/ai-monitoring-ga
[9] https://newrelic.com/press-release/20250203
[10] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-deepseek