Bir Deepseek uygulaması için yeni Relic AI izleme ayarlaması, AI uygulamanızın performans, kalitesi ve maliyeti hakkında kapsamlı bir görünürlük kazanmanıza yardımcı olan birkaç önemli adım içerir. İşte nasıl kurulacağına dair ayrıntılı bir rehber:
Adım 1: Enstrüman Deepseek uygulamanız
Deepseek uygulamanızı yeni Relic ile izlemeye başlamak için, önce uygulamanızı göstermeniz gerekir. Bu, New Relic'in Uygulama Performans İzleme (APM) aracılarını uygulamanıza entegre etmeyi içerir. Deepseek, OpenAi uyumlu bir API kullandığından, yeni Relic ile daha kolay entegrasyon için uygulamanızda Openai SDK'yı kullanabilirsiniz [2].1. Kayıt olun veya giriş yapın: Yeni bir kalıntı hesabı için kaydolarak veya zaten bir tane varsa oturum açarak başlayın.
2. Erişim Entegrasyonları ve Temsilcileri: Yeni kalıntı kontrol panelinizdeki Entegrasyonlar ve Aracılar bölümüne gidin.
3. Openai Entegrasyonunu seçin: Arama çubuğuna Openai yazın ve seçin. Bunun nedeni, Deepseek modellerinin Openai API'leriyle uyumlu olmasıdır.
4. Programlama dilinizi seçin: Uygulamanız tarafından kullanılan programlama dilini seçin (ör. Python, Node.js).
5. Kılavuzlu yerleşik olarak takip edin: Uygulamanızı enstrüman için New Relic tarafından sağlanan rehberli işe alım sürecini izleyin. Bu işlem, AI izleme için gerekli konfigürasyonları ayarlayarak size yol gösterecektir [2].
Adım 2: AI İzlemeye Erişim
Uygulamanız enstrüman edildikten sonra, yeni Relic AI izleme kullanmaya başlayabilirsiniz:1. AI İzleme: Yeni Kalıntı Gösterge Tablonuzdaki tüm özelliklere gidin ve AI izlemeye tıklayın.
2. Uygulamanızı seçin: AI izleme bölümünde, tüm varlıklar altında, performans verilerini görüntülemek için Deepseek uygulamanızı (örn., "Deepseek-Local") seçin [2].
Adım 3: Performans, kaliteyi ve maliyeti değerlendirin
Uygulamanız kurulduğunda, artık temel metrikleri değerlendirebilirsiniz:1. APM 360 Özet: APM 360 Özetini Görüntüle İstekler, yanıt süreleri, belirteç kullanımı ve hata oranları gibi metriklere ilişkin bilgiler için. Bu, sorunların hızlı bir şekilde tanımlanmasına yardımcı olur [2].
2. Derin İzleme Görünümü: Jeton sayımları ve model bilgileri gibi meta veriler de dahil olmak üzere kullanıcı girişinden son yanıta kadar ayrıntılı izleri görmek için APM 360 Özeti'ndeki AI yanıtlarına tıklayın [2].
3. Model Kalite Değerlendirmesi: Toksisite veya olumsuzluk gibi sorunları tanımlamak için Büyük Dil Modeli (LLM) yanıtlarını analiz edin, ancak bu özellik şu anda sınırlı önizlemede olmasına rağmen [2].
Adım 4: Modelleri karşılaştırın
Yeni Relic, performansı ve maliyeti optimize etmek için farklı AI modellerini karşılaştırmanıza olanak tanır:1. Model Karşılaştırma: Modeller arasında geçiş yapmanın uygulamanızın performansını ve maliyetlerini nasıl etkilediğini değerlendirmek için New Relic'in model karşılaştırma özelliklerini kullanın. Bu, ihtiyaçlarınız için en uygun modeli seçmeye yardımcı olur [3] [10].
Adım 5: Veri gizliliğini ve güvenliğini sağlayın
Hassas verileri korumak için damla filtreleri yapılandırabilirsiniz:1. Damla Filtreleri Oluştur: Filtreleri düşürmek için gezinin ve hassas verileri (örn. Kişisel tanımlanabilir bilgiler) AI isteklerinizden ve yanıtlarınızdan hariç tutmak için filtreler oluşturun [2].
Bu adımları izleyerek, DeepSeek uygulamanız için yeni kalıntı AI izlemesi oluşturabilir ve veri gizliliği ve güvenlik sağlarken performansına değerli bilgiler elde edebilirsiniz.
Alıntılar:
[1] https://docs.newrelic.com/install/ai-monitoring/
[2] https://newrelic.com/blog/how-to-ri--ri--locally-and-monitor-with-neworic-ai-monitoring
[3] https://cxotoday.com/press-reelease/new-ric-nunduunces-the-industrys-only-observibity-integation-a-i-a-i-ai-lai-a--i-lai--roi/
[4] https://newrelic.com/blog/how-to-ri--ric/ai-onitoring-for-nvidia-nim
[5] https://www.dqchannels.com/news/new-ric-introduces-observability-solution-for-deepseek-a-onitoring-8689063
[6] https://newrelic.com/blog/how-to-ro-ric/monitor-and-optimize-complex-web-apps-with-newrelic
[7] https://newrelic.com/blog/how-to-r-ric/ai-onitoring
[8] https://ecommercenews.com.au/story/new-ric-unveils-ai-onitoring-for-deepseek-pplications
[9] https://docs.newrelic.com/docs/ai-monitoring/intro-to-ai-monitoring/
[10] https://newrelic.com/press-reelease/20250203