Menyiapkan pemantauan Relic AI baru untuk aplikasi Deepseek melibatkan beberapa langkah kunci yang membantu Anda mendapatkan visibilitas komprehensif ke dalam kinerja, kualitas, dan biaya aplikasi AI Anda. Berikut panduan terperinci tentang cara mengaturnya:
Langkah 1: Instrumen Aplikasi Deepseek Anda
Untuk mulai memantau aplikasi Deepseek Anda dengan Relic baru, Anda harus pertama -tama harus instrumen aplikasi Anda. Ini melibatkan mengintegrasikan agen pemantauan kinerja aplikasi baru (APM) ke dalam aplikasi Anda. Karena Deepseek menggunakan API yang kompatibel dengan OpenAI, Anda dapat menggunakan OpenAI SDK dalam aplikasi Anda untuk integrasi yang lebih mudah dengan Relic baru [2].1. Daftar atau Masuk: Mulailah dengan mendaftar untuk akun peninggalan baru atau masuk jika Anda sudah memilikinya.
2. Akses Integrasi & Agen: Navigasi ke bagian Integrasi & Agen di dasbor Relic baru Anda.
3. Pilih Integrasi OpenAI: Di bilah pencarian, ketik openai dan pilih. Ini karena model Deepseek kompatibel dengan API Openai.
4. Pilih bahasa pemrograman Anda: Pilih bahasa pemrograman yang digunakan oleh aplikasi Anda (mis., Python, node.js).
5. Ikuti Onboarding yang Dipandu: Ikuti proses onboarding yang dipandu yang disediakan oleh Relic Baru untuk Instrumen Aplikasi Anda. Proses ini akan memandu Anda melalui pengaturan konfigurasi yang diperlukan untuk pemantauan AI [2].
Langkah 2: Akses pemantauan AI
Setelah aplikasi Anda diinstrumentasi, Anda dapat mulai menggunakan pemantauan Relic AI baru:1. Buka pemantauan AI: Pergi ke semua kemampuan di dasbor Relic baru Anda dan klik pemantauan AI.
2. Pilih aplikasi Anda: Di bagian pemantauan AI, di bawah semua entitas, pilih aplikasi Deepseek Anda (mis., "Deepseek-Local") untuk melihat data kinerjanya [2].
Langkah 3: Mengevaluasi kinerja, kualitas, dan biaya
Dengan pengaturan aplikasi Anda, Anda sekarang dapat mengevaluasi metrik kunci:1. Ringkasan APM 360: Lihat ringkasan APM 360 untuk wawasan tentang metrik seperti permintaan, waktu respons, penggunaan token, dan tingkat kesalahan. Ini membantu mengidentifikasi masalah dengan cepat [2].
2. Tampilan Penelusuran Deep: Klik pada respons AI dalam ringkasan APM 360 untuk melihat jejak terperinci dari input pengguna ke respons akhir, termasuk jumlah token seperti metadata dan informasi model [2].
3. Evaluasi Kualitas Model: Menganalisis tanggapan Model Bahasa Besar (LLM) untuk mengidentifikasi masalah -masalah seperti toksisitas atau negativitas, meskipun fitur ini saat ini dalam pratinjau terbatas [2].
Langkah 4: Bandingkan model
Relik baru memungkinkan Anda untuk membandingkan model AI yang berbeda untuk mengoptimalkan kinerja dan biaya:1. Perbandingan Model: Gunakan kemampuan perbandingan model Relic baru untuk menilai bagaimana pergantian antara model mempengaruhi kinerja dan biaya aplikasi Anda. Ini membantu dalam memilih model yang paling cocok untuk kebutuhan Anda [3] [10].
Langkah 5: Pastikan privasi dan keamanan data
Untuk melindungi data sensitif, Anda dapat mengonfigurasi filter drop:1. Buat filter drop: Navigasikan ke filter drop dan buat filter untuk mengecualikan data sensitif (mis., Informasi yang dapat diidentifikasi pribadi) dari permintaan dan tanggapan AI Anda [2].
Dengan mengikuti langkah -langkah ini, Anda dapat secara efektif mengatur pemantauan Relic AI baru untuk aplikasi Deepseek Anda, mendapatkan wawasan berharga tentang kinerjanya sambil memastikan privasi dan keamanan data.
Kutipan:
[1] https://docs.newrelic.com/install/ai-monitoring/
[2] https://newrelic.com/blog/how-to-relic/deploy-deepseek-odels-locally-and-monitor-with-new-relic-ai-monitoring
[3.
[4] https://newrelic.com/blog/how-to-relic/ai-monitoring-for-nvidia-nim
[5] https://www.dqchannels.com/news/new-relic-introduces-observability-solution-for-deepseek-ai-monitoring-8689063
[6] https://newrelic.com/blog/how-to-relic/monitor-and-optimize-complex-web-apps-with-new-relic
[7] https://newrelic.com/blog/how-to-relic/ai-monitoring
[8] https://ecommercenews.com.au/story/new-relic-uveils-ai-monitoring-for-deepseek-applications
[9] https://docs.newrelic.com/docs/ai-monitoring/intro-to-ai-monitoring/
[10] https://newrelic.com/press-release/20250203