Thiết lập giám sát AI di tích mới cho một ứng dụng DeepSeek bao gồm một số bước chính giúp bạn có được khả năng hiển thị toàn diện vào hiệu suất, chất lượng và chi phí của ứng dụng AI của bạn. Đây là một hướng dẫn chi tiết về cách thiết lập nó:
Bước 1: Thiết bị ứng dụng DeepSeek của bạn
Để bắt đầu theo dõi ứng dụng DeepSeek của bạn với di tích mới, trước tiên bạn cần phải điều khiển ứng dụng của mình. Điều này liên quan đến việc tích hợp các tác nhân giám sát hiệu suất ứng dụng (APM) của Relic vào ứng dụng của bạn. Vì Deepseek sử dụng API tương thích OpenAI, bạn có thể sử dụng SDK OpenAI trong ứng dụng của mình để tích hợp dễ dàng hơn với di tích mới [2].1. Đăng ký hoặc đăng nhập: Bắt đầu bằng cách đăng ký một tài khoản di tích mới hoặc đăng nhập nếu bạn đã có.
2. Truy cập Tích hợp & Đại lý: Điều hướng đến phần Tích hợp & Đại lý trong bảng điều khiển di tích mới của bạn.
3. Chọn Tích hợp OpenAI: Trong thanh tìm kiếm, nhập Openai và chọn nó. Điều này là do các mô hình DeepSeek tương thích với API OpenAI.
4. Chọn ngôn ngữ lập trình của bạn: Chọn ngôn ngữ lập trình được sử dụng bởi ứng dụng của bạn (ví dụ: Python, Node.js).
5. Thực hiện theo hướng dẫn trên máy bay: Thực hiện theo quy trình trên tàu được hướng dẫn được cung cấp bởi Relic mới để thiết bị ứng dụng của bạn. Quá trình này sẽ hướng dẫn bạn thông qua việc thiết lập các cấu hình cần thiết để theo dõi AI [2].
Bước 2: Truy cập giám sát AI
Khi ứng dụng của bạn được thiết bị, bạn có thể bắt đầu sử dụng giám sát AI di tích mới:1. Điều hướng đến giám sát AI: Chuyển đến tất cả các khả năng trong bảng điều khiển di tích mới của bạn và nhấp vào giám sát AI.
2. Chọn ứng dụng của bạn: Trong phần Giám sát AI, trong tất cả các thực thể, chọn ứng dụng DeepSeek của bạn (ví dụ: "DeepSeek-Local") để xem dữ liệu hiệu suất của nó [2].
Bước 3: Đánh giá hiệu suất, chất lượng và chi phí
Với ứng dụng của bạn được thiết lập, bây giờ bạn có thể đánh giá các số liệu chính:1. Tóm tắt APM 360: Xem Tóm tắt APM 360 để biết thông tin chi tiết về các số liệu như yêu cầu, thời gian phản hồi, sử dụng mã thông báo và tỷ lệ lỗi. Điều này giúp xác định các vấn đề nhanh chóng [2].
2. Chế độ xem theo dõi sâu: Nhấp vào các phản hồi AI trong Tóm tắt APM 360 để xem các dấu vết chi tiết từ đầu vào của người dùng đến phản hồi cuối cùng, bao gồm siêu dữ liệu như số lượng mã thông báo và thông tin mô hình [2].
3. Đánh giá chất lượng mô hình: Phân tích các phản hồi của Mô hình ngôn ngữ lớn (LLM) để xác định các vấn đề như độc tính hoặc tiêu cực, mặc dù tính năng này hiện đang được xem trước hạn chế [2].
Bước 4: So sánh các mô hình
Relic mới cho phép bạn so sánh các mô hình AI khác nhau để tối ưu hóa hiệu suất và chi phí:1. So sánh mô hình: Sử dụng các khả năng so sánh mô hình của Relic mới để đánh giá cách chuyển đổi giữa các mô hình ảnh hưởng đến hiệu suất và chi phí của ứng dụng của bạn. Điều này giúp chọn mô hình phù hợp nhất cho nhu cầu của bạn [3] [10].
Bước 5: Đảm bảo quyền riêng tư và bảo mật dữ liệu
Để bảo vệ dữ liệu nhạy cảm, bạn có thể định cấu hình các bộ lọc thả:1. Tạo các bộ lọc thả: Điều hướng đến các bộ lọc thả và tạo các bộ lọc để loại trừ dữ liệu nhạy cảm (ví dụ: thông tin nhận dạng cá nhân) khỏi các yêu cầu và phản hồi AI của bạn [2].
Bằng cách làm theo các bước này, bạn có thể thiết lập hiệu quả việc giám sát AI di tích mới cho ứng dụng DeepSeek của mình, đạt được những hiểu biết có giá trị về hiệu suất của nó trong khi đảm bảo quyền riêng tư và bảo mật dữ liệu.
Trích dẫn:
[1] https://docs.newrelic.com/install/ai-monitoring/
[2] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring
.
[4] https://newrelic.com/blog/how-to-relic/ai-monitoring-for-nvidia-nim
[5] https://www.dqchannels.com/news/new-relic-introduces-observability-solution-for-deepseek-ai-monitoring-8689063
[6] https://newrelic.com/blog/how-to-relic/monitor-and-optimize-complex-web-apps-with-new-relic
[7] https://newrelic.com/blog/how-to-relic/ai-monitoring
[8] https://ecommercenews.com.au/story/new-relic-unveils-ai-monitoring-for-deepseek-applications
[9] https:
[10] https://newrelic.com/press-release/20250203