새로운 Relic AI 모니터링은 AI 애플리케이션 스택에 포괄적 인 가시성을 제공함으로써 DeepSeek-R1 모델의 이상을 식별하는 데 중요한 역할을합니다. 여기에는 처리량, 대기 시간 및 비용과 같은 주요 메트릭을 추적하는 것이 포함되며, 이는 다양한 조건에서 모델이 수행되는 방식을 이해하는 데 필수적입니다 [1] [4] [9]. 새로운 Relic AI 모니터링이 이상을 식별하는 데 도움이되는 방법은 다음과 같습니다.
1. 실시간 모니터링 : New Relic은 개발자가 작동 할 때 DeepSeek 모델의 성능을 관찰 할 수있는 실시간 모니터링 기능을 제공합니다. 이 실시간 가시성은 모델의 출력 또는 성능에서 이상 또는 예기치 않은 동작을 감지하는 데 중요합니다 [3] [9].
2. 깊은 추적 : 플랫폼은 AI 모델에 의해 생성 된 모든 응답에 깊은 흔적을 제공합니다. 이 추적 기능을 통해 사용자는 초기 프롬프트에서 모든 처리 단계에 이르기까지 각 응답의 전체 수명주기를 볼 수 있습니다. 이 자세한 견해는 모델의 처리 로직 또는 다른 응용 프로그램 구성 요소와의 상호 작용에 관계없이 이상이 발생할 수있는 위치를 식별하는 데 도움이됩니다 [6].
3. 특이 치와 트렌드 식별 : 새로운 Relic AI 모니터링은 모든 AI 응답을 롤업보기로 통합하여 모델의 출력에서 특이점과 트렌드를 쉽게 식별 할 수 있습니다. 이상치는 추가 조사가 필요할 수있는 이상 또는 예기치 않은 행동을 나타낼 수 있습니다 [6].
4. 모델 비교 : New Relic의 모델 비교 기능을 통해 개발자는 DeepSeek-R1을 포함한 다양한 모델이 유사한 조건에서 어떻게 수행되는지 평가할 수 있습니다. 이것은 어떤 모델이 이상이 발생하기 쉬운 지 또는 더 나은 신뢰성과 성능을 제공 할 수있는 모델을 식별하는 데 도움이됩니다 [1] [9].
5. 비용 및 성능 최적화 : 처리량 및 대기 시간과 같은 주요 메트릭을 모니터링하여 개발자는 비용을 관리하는 동안 DeepSeek 모델의 성능을 최적화 할 수 있습니다. 이 최적화 프로세스는 또한 자원 사용 또는 효율성과 관련된 이상을 보여줄 수 있습니다 [3] [9].
그러나 이러한 모니터링 기능에도 불구하고 DeepSeek-R1 모델은 적대적 프롬프트에 대한 감수성 및 유해한 내용을 생성하는 것을 포함하여 상당한 보안 취약점으로 확인되었습니다 [5] [8]. 따라서 새로운 Relic AI 모니터링은 운영 이상을 식별하는 데 도움이 될 수 있지만 이러한 보안 위험을 해결하려면 강력한 보안 테스트 및 이상 탐지 시스템과 같은 추가 조치가 필요합니다 [8].
인용 :
[1] https://newrelic.com/press-release/20250203
[2] https://zilliz.com/ai-faq/how-does-deepseeks-model handle-outofdoftribution-inputs
[3] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-onnitor-with-new-relic-ai- 모니터링
[4] https://www.linkedin.com/posts/gariano_deploy-deepseek-models-locally-and-onitor-activity-72926453394326369-btjh
[5] https://www.appsoc.com/blog/testing-the-deepseek-r1-model-a-pandoras-o-fecurity-risks
[6] https://newrelic.com/blog/how-to-relic/ai-monitoring
[7] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-deepseek
[8] https://securityboulevard.com/2025/02/deepseek-ai-model-riddled-with-security-vulnerabilities/
[9] https://www.dqchannels.com/news/new-relic-introduces-observability-for-deepseek-ai-monitoring-8689063