New Relic'in AI izlemesi, Deepseek ile inşa edilen uygulamaları içeren AI yığınında kapsamlı bir görünürlük sağlamak için tasarlanmıştır. Bu özellik gerçekten de birkaç temel özellik sunarak Deepseek uygulamalarındaki darboğazların tanımlanmasına yardımcı olabilir:
1. Tam AI Yığın Görünürlüğü: New Relic, uygulama, altyapı ve AI katmanı arasında bütünsel bir görünüm sağlar. Bu, Deepseek ile inşa edilenler gibi AI uygulamalarında performans darboğazlarını tanımlamak için çok önemli olan yanıt süreleri, jeton kullanımı ve hata oranları gibi metrikleri içerir [1] [4].
2. Derin iz içgörüler: Platform, geliştiricilerin karmaşık AI yanıtlarının yaşam döngüsünü izlemesine izin veren ayrıntılı izleme özellikleri sunar. Bu özellik özellikle, girişlerin nasıl işlendiğini ve çıkışların üretildiğini analiz ederek Deepseek modellerindeki performans sorunlarının giderilmesi için yararlıdır [7].
3. Gerçek zamanlı bilgiler: New Relic'in AI izlemesi, AI yığını, kapsama hizmetleri, altyapı ve AI katmanında gerçek zamanlı bilgiler sunar. Bu, verim, gecikme ve maliyetler hakkında kapsamlı metrikler sağlayarak verimli, güvenilir ve uygun maliyetli operasyonlar sağlar [2] [6].
4. Model karşılaştırması: Platform, model karşılaştırmasına izin verir ve geliştiricilerin AI modelleri arasında geçiş yaparken performans etkilerini değerlendirmelerini sağlar. Bu özellik, performans ve maliyet metriklerine dayalı en verimli modelleri seçerek Deepseek uygulamalarını optimize etmek için faydalıdır [5] [9].
5. Geliştirilmiş Veri Güvenliği: New Relic'in izleme, hassas veri türlerinin seçici olarak hariç tutulmasına, uyumluluğu sağlayan ve kullanıcı gizliliğini koruyan damla filtreleri gibi özellikler içerir. Bu, darboğazları giderirken AI uygulamalarına güvenin korunması için önemlidir [1].
6. Güvenilirlik güvencesi ve kalite: Deepseek destekli AI uygulama performansına tam görünürlük sağlayarak, New Relic, işletmelerin sorunları hızlı bir şekilde tanımlamasına ve çözmesine yardımcı olur. Bu güvenilirlik güvencesi, yüksek kaliteli AI hizmetlerinin korunması ve darboğazları derhal ele almak için kritik öneme sahiptir [2] [6].
Genel olarak, New Relic'in AI izlemesi, performans optimizasyonu, model seçimi ve gerçek zamanlı izleme için kapsamlı bir araç seti sunarak Deepseek uygulamalarındaki darboğazları tanımlamaya ve ele almaya yardımcı olmak için iyi donanımlıdır.
Alıntılar:
[1] https://docs.newrelic.com/whats-new/2024/03/whats-new-03-28-imonitoringga/
[2] https://theexchangeasia.com/new-ric-unveils-first-eves-ai-observibity-for-deepseek/
[3] https://newrelic.com/blog/how-to-ri--ri--locally-and-monitor-with-neworic-ai-monitoring
[4] https://newrelic.com/blog/how-to-r-ric/ai-in-observible
[5] https://newrelic.com/press-reelease/20250203
[6] https://ecommercenews.com.au/story/new-ric-unveils-ai-onitoring-for-deepseek-pplications
[7] https://newrelic.com/blog/nerdlog/ai-onitoring-ga
[8] https://www.computerweekly.com/news/36618774/newrelic-extends-observability-to-deepseek
[9] https://newrelic.com/platform/ai-onitoring