Η δημιουργία νέου Relic AI παρακολούθησης για μια εφαρμογή Deepseek περιλαμβάνει διάφορα βασικά βήματα που σας βοηθούν να αποκτήσετε ολοκληρωμένη ορατότητα στην απόδοση, την ποιότητα και το κόστος της εφαρμογής AI. Ακολουθεί ένας λεπτομερής οδηγός για το πώς να το ρυθμίσετε:
Βήμα 1: Όργανο Η εφαρμογή Deepseek
Για να ξεκινήσετε την παρακολούθηση της εφαρμογής Deepseek με το New Relic, πρέπει πρώτα να οργανώσετε την αίτησή σας. Αυτό περιλαμβάνει την ενσωμάτωση των παραγόντων παρακολούθησης της απόδοσης της Relic (APM) στην αίτησή σας. Δεδομένου ότι το DeepSeeek χρησιμοποιεί ένα API συμβατό με το OpenAI, μπορείτε να χρησιμοποιήσετε το OpenAI SDK στην αίτησή σας για ευκολότερη ενσωμάτωση με το νέο Relic [2].1. Εγγραφείτε ή συνδεθείτε: Ξεκινήστε με την εγγραφή σας για ένα νέο λογαριασμό Relic ή συνδεθείτε εάν έχετε ήδη ένα.
2. Access Integrations & Agents: Μεταβείτε στην ενότητα Integrations & Agents στο νέο σας πίνακα ελέγχου Relic.
3. Επιλέξτε OpenAi Integration: Στη γραμμή αναζήτησης, πληκτρολογήστε OpenAI και επιλέξτε την. Αυτό οφείλεται στο γεγονός ότι τα μοντέλα Deepseek είναι συμβατά με τα API OpenAi.
4. Επιλέξτε τη γλώσσα προγραμματισμού σας: Επιλέξτε τη γλώσσα προγραμματισμού που χρησιμοποιείται από την εφαρμογή σας (π.χ. Python, Node.js).
5. Ακολουθήστε την Onboarding: Ακολουθήστε τη διαδικασία καθοδήγησης που παρέχεται από το New Relic για να χρησιμοποιήσετε την αίτησή σας. Αυτή η διαδικασία θα σας οδηγήσει στη δημιουργία των απαραίτητων διαμορφώσεων για την παρακολούθηση του AI [2].
Βήμα 2: Πρόσβαση στην παρακολούθηση AI
Μόλις η αίτησή σας είναι όργανα, μπορείτε να αρχίσετε να χρησιμοποιείτε νέα παρακολούθηση Relic AI:1. Πλοηγηθείτε στην παρακολούθηση AI: Μεταβείτε σε όλες τις δυνατότητες στο νέο σας ταμπλό Relic και κάντε κλικ στην παρακολούθηση AI.
2. Επιλέξτε την εφαρμογή σας: Στην ενότητα Παρακολούθηση AI, κάτω από όλες τις οντότητες, επιλέξτε την εφαρμογή Deepseek (π.χ. "Deepseek-Local") για να δείτε τα δεδομένα απόδοσης [2].
Βήμα 3: Αξιολογήστε την απόδοση, την ποιότητα και το κόστος
Με τη ρύθμιση της εφαρμογής σας, μπορείτε τώρα να αξιολογήσετε τις βασικές μετρήσεις:1. Περίληψη APM 360: Προβολή της περίληψης APM 360 για πληροφορίες σχετικά με μετρήσεις όπως αιτήματα, χρόνο απόκρισης, χρήση συμβόλων και ποσοστά σφάλματος. Αυτό βοηθά στον εντοπισμό των προβλημάτων γρήγορα [2].
2. Προβολή βαθιάς ανίχνευσης: Κάντε κλικ στις απαντήσεις AI στην περίληψη APM 360 για να δείτε λεπτομερή ίχνη από την είσοδο του χρήστη έως την τελική απάντηση, συμπεριλαμβανομένων των μεταδεδομένων όπως οι μετρήσεις συμβόλων και οι πληροφορίες μοντέλου [2].
3. Αξιολόγηση ποιότητας μοντέλου: Αναλύστε τις απαντήσεις μεγάλου γλωσσικού μοντέλου (LLM) για τον εντοπισμό ζητημάτων όπως η τοξικότητα ή η αρνητικότητα, αν και αυτό το χαρακτηριστικό βρίσκεται σε περιορισμένη προεπισκόπηση [2].
Βήμα 4: Συγκρίνετε μοντέλα
Το νέο Relic σας επιτρέπει να συγκρίνετε διαφορετικά μοντέλα AI για να βελτιστοποιήσετε την απόδοση και το κόστος:1. Σύγκριση μοντέλου: Χρησιμοποιήστε τις δυνατότητες σύγκρισης μοντέλων New Relic για να αξιολογήσετε τον τρόπο με τον οποίο η εναλλαγή μεταξύ των μοντέλων επηρεάζει την απόδοση και το κόστος της εφαρμογής σας. Αυτό βοηθά στην επιλογή του καταλληλότερου μοντέλου για τις ανάγκες σας [3] [10].
Βήμα 5: Εξασφαλίστε την ιδιωτική ζωή και την ασφάλεια των δεδομένων
Για να προστατεύσετε ευαίσθητα δεδομένα, μπορείτε να ρυθμίσετε τα φίλτρα πτώσης:1. Δημιουργία φίλτρων πτώσης: Πλοηγηθείτε σε φίλτρα πτώσης και δημιουργήστε φίλτρα για να αποκλείσετε ευαίσθητα δεδομένα (π.χ. προσωπικές αναγνωρίσιμες πληροφορίες) από τις αιτήσεις και τις απαντήσεις σας [2].
Ακολουθώντας αυτά τα βήματα, μπορείτε να δημιουργήσετε αποτελεσματικά νέα παρακολούθηση Relic AI για την εφαρμογή Deepseek, κερδίζοντας πολύτιμες γνώσεις για την απόδοσή του, εξασφαλίζοντας παράλληλα την ιδιωτική ζωή και την ασφάλεια των δεδομένων.
Αναφορές:
[1] https://docs.newrelic.com/install/ai-monitoring/
[2] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring
[3] https://cxotoday.com/press-release/new-relic-announces-the-industrys-only-observability-integration-with-deepseek-to-accelerate-ai-adoption-and-roi/
[4] https://newrelic.com/blog/how-to-relic/ai-monitoring-for-nvidia-nim
[5] https://www.dqchannels.com/news/new-relic-introduces-observability-solution-for-deepseek-ai-monitoring-8689063
[6] https://newrelic.com/blog/how-to-relic/monitor-and-optimize-complex-web-apps-with-new-relic
[7] https://newrelic.com/blog/how-to-relic/ai-monitoring
[8] https://ecommercenews.com.au/story/new-relic-unveils-ai-monitoring-for-deepseek-pplications
[9] https://docs.newrelic.com/docs/ai-monitoring/intro-to-ai-monitoring/
[10] https://newrelic.com/press-release/20250203