Home Arrow Icon Knowledge base Arrow Icon Global Arrow Icon 새로운 Relic AI 모니터링을 DeepSeek-R1과 통합하려면 어떻게해야합니까?


새로운 Relic AI 모니터링을 DeepSeek-R1과 통합하려면 어떻게해야합니까?


DeepSeek-R1과 새로운 Relic AI 모니터링을 통합하려면 AI 애플리케이션의 성능, 품질 및 비용을 모니터링하는 데 도움이되는 몇 가지 단계가 필요합니다. 다음은이 통합을 달성하는 방법에 대한 자세한 안내서입니다.

1 단계 : 현지에서 DeepSeek-R1 설정

먼저, 현지에서 DeepSeek-R1 모델을 설정 해야하는지 확인하십시오. DeepSeek 모델은 혁신적인 아키텍처, 특히 MOE (Mix-of-Experts) 디자인으로 유명하며, 이는 특정 작업에 대한 관련 서브 모델 만 활성화하여 효율성을 향상시킵니다 [1] [3].

2 단계 : OpenAi 호환 API 사용

DeepSeek 모델은 OpenAI 호환 API를 사용합니다. 즉, OpenAI SDK를 사용하여 응용 프로그램에 통합 할 수 있습니다. 이는 새로운 유물로 모니터링 프로세스를 단순화합니다 [1].

3 단계 : 새로운 Relic AI 모니터링과 통합

1. 새로운 유물에 가입하거나 로그인하십시오 : 새 유물 계정에 가입하거나 이미있는 경우 로그인하십시오. New Relic은 무료 계정 옵션을 제공하여 테스트 및 개발에 액세스 할 수 있습니다 [1].

2. OpenAI 용 새 유물 구성 : DeepSeek은 OpenAI 호환 API를 사용하므로 OpenAI를 직접 통합하는 것처럼 새 유물을 구성합니다.
- 새로운 유물 계정의 통합 및 에이전트로 이동하십시오.
- 검색 창에서 OpenAI를 입력하고 선택하십시오.
- 응용 프로그램 프로그래밍 언어 (예 : Python, Node.js)를 선택하십시오.
- New Relic이 제공 한 안내 된 온 보딩 프로세스를 따라 DeepSeek [1]로 구축 된 AI 응용 프로그램을 기기에 따라하십시오.

3. 응용 프로그램을 기기 : New Relic은 응용 프로그램에 쉽게 통합 할 수있는 APM 에이전트를 제공합니다. 이 에이전트는 AI 라이브러리 및 프레임 워크에서 메트릭 및 이벤트 데이터를 수집하여 AI 응용 프로그램의 성능을 실시간으로 모니터링 할 수 있습니다 [2] [8].

4. 에이전트 행동 사용자 지정 : 에이전트가 설치되면 필요에 맞게 동작을 사용자 정의 할 수 있습니다. 여기에는 스트리밍 및 컨텐츠 기록과 같은 기능을 활성화하거나 비활성화하는 것이 포함되며, 이는 AI 상호 작용을 모니터링하는 데 중요합니다 [5].

5. 성능 및 품질 모니터 : 새로운 Relic AI 모니터링을 통해 응답 시간, 품질, 사용 된 토큰 및 인프라 성능과 같은 주요 메트릭에 대한 통찰력을 얻을 수 있습니다. 이것은 병목 현상을 식별하고 AI 응용 프로그램의 전반적인 기능을 최적화하는 데 도움이됩니다 [10].

6. 모델 비교 및 ​​최적화 : New Relic의 모델 비교 기능을 사용하면 성능, 품질 및 비용에 따라 다양한 AI 모델을 평가할 수 있습니다. 이것은 응용 프로그램에 미치는 영향을 평가하는 데 도움이되므로 DeepSeek-R1과 같은 최신 모델로 전환할지 여부를 결정할 때 특히 유용합니다 [4] [9].

4 단계 : 데이터 개인 정보 및 보안 보장

새로운 Relic AI 모니터링을 사용하는 경우 데이터 개인 정보 보호 규정을 준수해야합니다. AI 모니터링은 개인 정보를 포함한 입력 및 출력을 기록 할 수 있으므로 사용자로부터 동의를 얻고 필요한 데이터 보호 측정을 구현하는 것이 필수적입니다 [2].

5 단계 : 혁신에 대한 통찰력을 활용합니다

마지막으로, 새로운 Relic AI 모니터링에서 얻은 통찰력을 사용하여 혁신을 주도하고 AI 응용 프로그램을 개선하십시오. 성능과 비용을 최적화함으로써 AI 채택을 가속화하고 더 빠른 투자 수익 (ROI)을 달성 할 수 있습니다 [4] [7].

이러한 통합은 AI 스택에 대한 가시성을 향상시킬뿐만 아니라 DeepSeek 모델의 비용 효율적이고 효율적인 특성을 지원하여 AI가보다 접근 가능하고 더 빠른 혁신을 주도합니다.

인용 :
[1] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-onnitor-with-new-relic-ai- 모니터링
[2] https://docs.newrelic.com/install/ai-monitoring/
[3] https://618media.com/en/blog/integrating-deepseek-r1-into-encisting-systems-a-guide/
[4] https://newrelic.com/press-release/20250203
[5] https://docs.newrelic.com/docs/ai-monitoring/customize-agent-ai-onitoring/
[6] https://learn.odoo.com/groups/in-5/new-relic-extends-its-ai-onitoring-to-support-deepseek-4237?mode=date
[7] https://radicaldatascience.wordpress.com/tag/deepseek/
[8] https://newrelic.com/blog/how-to-relic/ai-monitoring
[9] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-deepseek
[10] https://newrelic.com/platform/ai-monitoring