DeepSeek-R1과 통합 될 때 New Relic의 모델 비교 기능은 개발자와 기업이 AI 애플리케이션을 평가하고 최적화 할 수있는 포괄적 인 도구 세트를 제공합니다. 작동 방식은 다음과 같습니다.
New Relic의 AI 모니터링 개요
New Relic은 DeepSeek-R1을 포함한 DeepSeek 모델로의 지원을 확장하는 강력한 관측 성 플랫폼을 제공합니다. 이 통합을 통해 사용자는 이러한 모델을 구축 한 응용 프로그램을 실시간으로 모니터링하여 성능, 품질 및 비용 지표에 대한 통찰력을 제공 할 수 있습니다 [1] [2]. 이 플랫폼은 OpenAI, Claude 및 AWS 기반암을 포함한 다양한 AI 모델을 지원하여 다양한 AI 생태계를 관리하기위한 다양한 도구입니다 [7].
모델 비교의 주요 기능
1. 성능 평가 : New Relic의 AI 모니터링을 통해 사용자는 DeepSeek-R1과 같은 다양한 모델이 다양한 벤치 마크 및 작업에서 수행하는 방법을 평가할 수 있습니다. 여기에는 처리량 및 대기 시간과 같은 메트릭 평가가 포함되며, 이는 효율적인 응용 프로그램 운영을 보장하는 데 중요합니다 [5] [7].
2. 비용 최적화 :이 플랫폼은 토큰 사용 및 기타 비용 관련 메트릭에 대한 자세한 통찰력을 제공합니다. 이를 통해 조직은 성능과 비용 사이의 최상의 균형을 제공하는 모델을 선택하여 AI 비용을 최적화 할 수 있습니다. 비용 효율적 인 Deepseek 모델은이 기능에서 크게 이익을 얻습니다 [1] [7].
3. 모델 스위칭 신뢰도 : New Relic의 통합의 눈에 띄는 기능 중 하나는 사용자가 자신감을 가지고 다양한 AI 모델간에 사용자가 전환하는 데 도움이되는 기능입니다. 개발자는 응용 프로그램 성능 및 토큰 사용에 미치는 영향을 비교함으로써 응용 프로그램에 가장 적합한 모델에 대한 정보에 근거한 결정을 내릴 수 있습니다 [7].
4. 실시간 가시성 : New Relic은 AI 애플리케이션 스택, 서비스, 인프라 및 AI 계층의 실시간보기를 제공합니다. 이 포괄적 인 가시성은 AI 구동 응용 분야에서 신뢰성과 품질을 유지하여 문제를 신속하게 식별하고 해결할 수 있도록 보장합니다 [2] [7].
통합 프로세스
DeepSeek 모델을 새로운 Relic AI 모니터링과 통합하려면 일반적으로 다음 단계를 수행합니다.
- 가입 또는 로그인 : 사용자는 새 유물 계정에 가입하거나 이미 로그인하는 것으로 시작합니다.
- 통합 선택 : "통합 및 에이전트"섹션으로 이동하여 OpenAI 호환 API를 사용하므로 OpenAI를 검색합니다.
- 기기 응용 프로그램 : 사용자는 가이드 온 보딩 프로세스를 따라 새로운 유물 에이전트를 응용 프로그램 코드에 통합하는 DeepSeek로 구축 된 AI 응용 프로그램을 기기로 지정합니다 [1].
DeepSeek-R1 사용자에게는 이점이 있습니다
DeepSeek-R1과 New Relic을 통합하면 몇 가지 이점이 있습니다.
-성능 모니터링 향상 : 사용자는 실시간으로 DeepSeek-R1의 성능을 모니터링하여 모델이 응용 프로그램 내에서 효율적으로 작동 할 수 있습니다.
- 비용 효율성 : DeepSeek의 비용 효율적인 아키텍처와 새로운 Relic의 비용 분석 도구를 활용하여 사용자는 AI 비용을 최적화 할 수 있습니다.
- 정보에 입각 한 의사 결정 : 모델 비교 기능은 사용자가 성능 및 비용 지표에 따라 DeepSeek-R1을 고수할지 또는 다른 모델로 전환할지 여부를 결정하는 데 도움이됩니다 [2] [5].
전반적으로, DeepSeek-R1과 결합 된 New Relic의 모델 비교 기능은 개발자가 AI 애플리케이션을 효과적으로 최적화하여 AI 기술을 빠르게 채택하고 더 빠른 투자 수익 (ROI)을 달성 할 수 있도록합니다 [7].
인용 :
[1] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-onnitor-with-new-relic-ai- 모니터링
[2] https://newrelic.com/press-release/20250203
[3] https://www.byteplus.com/en/topic/386424
[4] https://www.prompthub.us/blog/deepseek-r-1-model-overview-and-ranks-against-openais-o1
[5] https://www.linkedin.com/posts/gariano_deploy-deepseek-models-locally-and-onitor-activity-72926453394326369-btjh
[6] https://www.reddit.com/r/deepseek/comments/1ik7vvt/im_a_complete_novice_to_ai_can_someon_explain_in/
[7] https://www.bigdatawire.com/this-just-in/new-relic-expands-ai-observability-with-deepseek-integration/
[8] https://www.sdxcentral.com/articles/news/new-relic-announces-dindustryso-denly-observability-servability-with-deepseek-to-accelerate-ai-adoption and-roi/2025/02/
[9] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-deepseek