DeepSeek 응용 프로그램을 위해 새로운 Relic AI 모니터링을 설정하려면 AI 응용 프로그램의 성능, 품질 및 비용에 대한 포괄적 인 가시성을 얻는 데 도움이되는 몇 가지 주요 단계가 필요합니다. 다음은 설정 방법에 대한 자세한 안내서입니다.
1 단계 : 심도있는 응용 프로그램을 기기로 보냅니다
새로운 유물로 DeepSeek 응용 프로그램을 모니터링하려면 먼저 응용 프로그램을 도구해야합니다. 여기에는 새로운 Relic의 APM (Application Performance Monitoring) 에이전트를 애플리케이션에 통합해야합니다. DeepSeek은 OpenAI 호환 API를 사용하므로 응용 프로그램에서 OpenAI SDK를 사용하여 새로운 Relic [2]와 쉽게 통합 할 수 있습니다.1. 가입 또는 로그인 : 새 유물 계정에 가입하거나 이미있는 경우 로그인으로 시작하십시오.
2. 액세스 통합 및 에이전트 : 새로운 Relic Dashboard의 통합 및 에이전트 섹션으로 이동하십시오.
3. OpenAI 통합을 선택하십시오 : 검색 창에서 OpenAI를 입력하고 선택하십시오. DeepSeek 모델은 OpenAI API와 호환되기 때문입니다.
4. 프로그래밍 언어 선택 : 응용 프로그램에서 사용하는 프로그래밍 언어 (예 : Python, Node.js)를 선택하십시오.
5. 안내 된 온 보딩을 따르십시오 : New Relic이 제공 한 안내 된 온 보딩 프로세스를 따라 응용 프로그램을 기기에 도착하십시오. 이 프로세스는 AI 모니터링에 필요한 구성을 설정하는 것을 안내합니다 [2].
2 단계 : 액세스 AI 모니터링
응용 프로그램이 계측되면 새로운 Relic AI 모니터링을 사용하여 시작할 수 있습니다.1. AI 모니터링으로 이동 : 새로운 Relic Dashboard의 모든 기능으로 이동하여 AI 모니터링을 클릭하십시오.
2. 응용 프로그램 선택 : AI 모니터링 섹션에서 모든 엔터티에서 DeepSeek 응용 프로그램 (예 : "DeepSeek-Local")을 선택하여 성능 데이터를 볼 수 있습니다 [2].
3 단계 : 성능, 품질 및 비용을 평가합니다
응용 프로그램을 설정하면 이제 주요 메트릭을 평가할 수 있습니다.1. APM 360 요약 : 요청, 응답 시간, 토큰 사용 및 오류율과 같은 메트릭에 대한 통찰력에 대한 APM 360 요약보기. 이것은 문제를 빠르게 식별하는 데 도움이됩니다 [2].
2. 깊은 추적보기 : APM 360 요약에서 AI 응답을 클릭하면 토큰 수와 같은 메타 데이터를 포함하여 사용자 입력에서 최종 응답까지의 상세한 추적을 보려면 [2].
3. 모델 품질 평가 : 독성 또는 부정성과 같은 문제를 식별하기위한 대형 언어 모델 (LLM) 응답을 분석하지만,이 기능은 현재 제한된 미리보기에 있습니다 [2].
4 단계 : 모델 비교
New Relic은 다양한 AI 모델을 비교하여 성능과 비용을 최적화 할 수 있습니다.1. 모델 비교 : New Relic의 모델 비교 기능을 사용하여 모델 간 전환이 응용 프로그램의 성능과 비용에 어떤 영향을 미치는지 평가합니다. 이것은 필요에 가장 적합한 모델을 선택하는 데 도움이됩니다 [3] [10].
5 단계 : 데이터 개인 정보 및 보안을 보장합니다
민감한 데이터를 보호하려면 드롭 필터를 구성 할 수 있습니다.1. 드롭 필터 생성 : DROP 필터로 이동하여 필터를 생성하여 AI 요청 및 응답에서 민감한 데이터 (예 : 개인 식별 정보)를 배제합니다 [2].
이 단계를 수행하면 DeepSeek 응용 프로그램에 대한 새로운 Relic AI 모니터링을 효과적으로 설정하여 데이터 개인 정보 및 보안을 보장하면서 성능에 대한 귀중한 통찰력을 얻을 수 있습니다.
인용 :
[1] https://docs.newrelic.com/install/ai-monitoring/
[2] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-onnitor-with-new-relic-ai- 모니터링
[3] https://cxotoday.com/press-release/new-relic-announces-s-industryso-observability-integration-with-deepseek-to-accelerate-ai-adoption-and-roi/
[4] https://newrelic.com/blog/how-to-relic/ai-monitoring-for-nvidia-nim
[5] https://www.dqchannels.com/news/new-relic-introduces-observability-solution-for-deepseek-ai-monitoring-8689063
[6] https://newrelic.com/blog/how-to-relic/monitor-and-op-complex-web-apps-with-new-relic
[7] https://newrelic.com/blog/how-to-relic/ai-monitoring
[8] https://ecommercenews.com.au/story/new-relic-unveils-ai-onitoring-for-deepseek-application
[9] https://docs.newrelic.com/docs/ai-monitoring/intro-to-ai-monitoring/
[10] https://newrelic.com/press-release/20250203
