Konfigurowanie nowych monitorowania AI Relic dla aplikacji Deepseek obejmuje kilka kluczowych kroków, które pomagają uzyskać kompleksową widoczność w wydajności, jakości i kosztach aplikacji AI. Oto szczegółowy przewodnik na temat tego, jak go skonfigurować:
Krok 1: Instrument Twojej aplikacji Deepseek
Aby rozpocząć monitorowanie aplikacji DeepSeek za pomocą nowego reliktu, najpierw musisz instrumentować swoją aplikację. Obejmuje to zintegrowanie agentów monitorowania wydajności aplikacji nowego Relic (APM) z aplikacją. Ponieważ Deepseek używa interfejsu API kompatybilnego z OpenAi, możesz użyć SDK OpenAi w swojej aplikacji, aby ułatwić integrację z nowym reliktem [2].1. Zarejestruj lub zaloguj się: Zacznij od zapisania się na nowe konto reliktu lub zalogowanie się, jeśli już je masz.
2. Integracje i agenci dostępu: przejdź do sekcji integracji i agentów w nowym pulpicie relikwiowym.
3. Wybierz integrację OpenAI: na pasku wyszukiwania wpisz Openai i wybierz ją. Wynika to z faktu, że modele DeepSeek są kompatybilne z API Openai.
4. Wybierz język programowania: Wybierz język programowania używany przez aplikację (np. Python, Node.js).
5. Śledź przewodnik w pokładzie: postępuj zgodnie z procesem wdrażania przewodnika dostarczonego przez New Relic, aby instrumentować aplikację. Ten proces poprowadzi Cię przez konfigurowanie niezbędnych konfiguracji monitorowania AI [2].
Krok 2: Monitorowanie AI dostępu do AI
Po oprzyrządowaniu aplikacji możesz zacząć używać nowego monitorowania AI Relic:1. Przejdź do monitorowania AI: przejdź do wszystkich możliwości w nowym pulpicie nawigacyjnym i kliknij monitorowanie AI.
2. Wybierz aplikację: w sekcji Monitorowanie AI, pod wszystkimi podmiotami, wybierz aplikację Deepseek (np. „Deepseek-Local”), aby wyświetlić dane dotyczące wydajności [2].
Krok 3: Oceń wydajność, jakość i koszty
Po skonfigurowaniu aplikacji możesz teraz ocenić kluczowe wskaźniki:1. Podsumowanie APM 360: Wyświetl podsumowanie APM 360 w poszukiwaniu wskaźników wskaźników takich jak żądania, czasy reakcji, użycie tokenu i wskaźniki błędów. Pomaga to szybko zidentyfikować problemy [2].
2. Głębokie widok śledzenia: kliknij odpowiedzi AI w podsumowaniu APM 360, aby zobaczyć szczegółowe ślady od wejścia użytkownika do ostatecznej odpowiedzi, w tym metadane jak liczba tokenów i informacje o modelu [2].
3. Ocena jakości modelu: Analizuj odpowiedzi na duży model języka (LLM) w celu zidentyfikowania problemów takich jak toksyczność lub negatywność, chociaż ta funkcja jest obecnie w ograniczonym podglądu [2].
Krok 4: Porównaj modele
Nowy relikwia pozwala porównać różne modele AI w celu optymalizacji wydajności i kosztów:1. Porównanie modelu: Użyj możliwości porównania modelu nowego reliktu, aby ocenić, w jaki sposób przełączanie między modelami wpływa na wydajność i koszty aplikacji. Pomaga to w wyborze najbardziej odpowiedniego modelu dla Twoich potrzeb [3] [10].
Krok 5: Zapewnij prywatność i bezpieczeństwo danych
Aby chronić poufne dane, możesz skonfigurować filtry zrzutu:1. Utwórz filtry Drop: Przejdź do filtrów upuszczania i utwórz filtry, aby wykluczyć poufne dane (np. Informacje o osobistej identyfikowaniu) z żądań i odpowiedzi AI [2].
Postępując zgodnie z tymi krokami, możesz skutecznie skonfigurować nowe monitorowanie AI Relic dla aplikacji Deepseek, zdobywając cenne informacje na temat jej wydajności, zapewniając jednocześnie prywatność i bezpieczeństwo danych.
Cytaty:
[1] https://docs.newrelic.com/install/ai-monitoring/
[2] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring
[3] https://cxotoday.com/press-release/new-relic-announces-the-industrys-vly-observabilty-integration-with-deepseek-to-accelate-ai-adoption-and-roi/
[4] https://newrelic.com/blog/how-to-relic/ai-monitoring-for-nvidia-nem
[5] https://www.dqchannels.com/news/new-relic-introduce-observability-for-deepseek-ai-monitoring-8689063
[6] https://newrelic.com/blog/how-to-relic/monitor-and-optimize-complex-web-apps-with-new-relic
[7] https://newrelic.com/blog/how-to-relic/ai-monitoring
[8] https://ecommcenews.com.au/story/new-relic-unveils-ai-monitoring-fordeepseek-applications
[9] https://docs.newrelic.com/docs/ai-monitoring/intro-to-ai-monitoring/
[10] https://newrelic.com/press-release/20250203