새로운 Relic AI 모니터링은 포괄적 인 가시성과 운영에 대한 실행 가능한 통찰력을 제공함으로써 DeepSeek-R1 모델의 성능을 크게 향상시킵니다. 이를 달성하는 방법은 다음과 같습니다.
1. 실시간 성능 모니터링 : 새로운 Relic AI 모니터링을 통해 개발자는 DeepSeek-R1 모델을 구축 한 응용 프로그램을 실시간으로 모니터링 할 수 있습니다. 여기에는 성능, 품질 및 비용과 같은 주요 메트릭 추적이 포함되어있어 문제의 빠른 식별 및 해결이 가능합니다 [1] [4].
2. 모델 비교 및 최적화 : 플랫폼은 모델 비교 기능을 제공하여 기업이 DeepSeek-R1 모델의 품질, 성능 및 비용을 최적화하는 데 도움이됩니다. 이 기능을 통해 개발자는 다른 모델 간 전환의 영향을 평가하여 특정 응용 프로그램 요구에 가장 적합한 모델을 선택할 수 있습니다 [4] [7].
3. 엔드 투 엔드 가시성 : 새로운 Relic AI 모니터링은 APM 360과 통합되어 전체 AI 스택에서 엔드 투 엔드 가시성을 제공합니다. 여기에는 서비스, 인프라 및 AI 모델이 포함되어 개발자는 AI 애플리케이션 성능을 업스트림 및 다운 스트림 트렌드와 실시간으로 상관시킬 수 있습니다 [10].
4. 심층 추적 및 분석 : 플랫폼은 모든 AI 응답에 대한 깊은 흔적을 제공하여 개발자에게 AI 응용 프로그램의 작동 방식에 대한 자세한 견해를 제공합니다. 이는 문제의 특이 치, 추세 및 근본 원인을 식별하여 문제 해결을보다 효율적으로 만듭니다 [10].
5. 데이터 보안 및 개인 정보 보호 : New Relic은 개발자가 민감한 데이터를 모니터링에서 제외 할 수있게함으로써 데이터 개인 정보를 지원하여 AI 애플리케이션 모니터링 중에 개인 식별 정보 (PII)가 보호되도록 보장합니다 [1] [11].
6. 비용 효율성 : DeepSeek의 비용 효율적인 모델과 통합하여 새로운 Relic AI 모니터링은 AI 개발 비용을 줄이는 데 도움이됩니다. 토큰 사용에 대한 통찰력을 제공하며, 이는 AI 응용 프로그램 비용을 최적화하는 데 중요합니다 [4] [11].
전반적으로 새로운 Relic AI 모니터링은 AI 애플리케이션의 개발, 배포 및 모니터링을 단순화하면서 신뢰성, 품질 및 비용 효율성을 보장하는 포괄적 인 관찰 가능성 솔루션을 제공함으로써 DeepSeek-R1 모델의 성능을 향상시킵니다.
인용 :
[1] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-onnitor-with-new-relic-ai- 모니터링
[2] https://newrelic.com/blog/how-to-relic/performance-monitoring-newrelic-ai
[3] https://learn.odoo.com/groups/in-5/new-relic-extends-its-ai-onitoring-to-support-deepseek-4237?mode=date
[4] https://newrelic.com/press-release/20250203
[5] https://www.businesswire.com/news/home/20240423849633/en/new-relic-enhances-ai-monitoring-industry%E2%80%99S-first-apm-for-ai
[6] https://blog.devops.dev/aws-observability-for-bedrock-large-models-d732363993fd
[7] https://radicaldatascience.wordpress.com/tag/deepseek/
[8] https://newrelic.com/blog/nerdlog/ai-monitoring-ga
[9] https://www.linkedin.com/posts/gariano_deploy-deepseek-models-locally-and-onitor-activity-72926453394326369-btjh
[10] https://newrelic.com/blog/how-to-relic/ai-monitoring
[11] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-deepseek