Giám sát AI di tích mới đóng một vai trò quan trọng trong việc xác định sự bất thường trong các mô hình DeepSeek-R1 bằng cách cung cấp khả năng hiển thị toàn diện trong ngăn xếp ứng dụng AI. Điều này bao gồm theo dõi các số liệu chính như thông lượng, độ trễ và chi phí, điều này rất cần thiết để hiểu cách thức mô hình thực hiện trong các điều kiện khác nhau [1] [4] [9]. Đây là cách giám sát AI di tích mới giúp xác định sự bất thường:
1. Giám sát thời gian thực: New Di tích cung cấp các khả năng giám sát thời gian thực cho phép các nhà phát triển quan sát hiệu suất của các mô hình DeepSeek khi chúng hoạt động. Khả năng hiển thị thời gian thực này là rất quan trọng để phát hiện sự bất thường hoặc hành vi bất ngờ trong đầu ra hoặc hiệu suất của mô hình [3] [9].
2. Truy tìm sâu: Nền tảng cung cấp dấu vết sâu cho mọi phản hồi được tạo bởi mô hình AI. Khả năng theo dõi này cho phép người dùng thấy toàn bộ vòng đời của mỗi phản hồi, từ lời nhắc ban đầu thông qua tất cả các giai đoạn xử lý. Chế độ xem chi tiết này giúp xác định nơi có thể xảy ra sự bất thường, cho dù đó là trong logic xử lý của mô hình hoặc tương tác với các thành phần ứng dụng khác [6].
3. Xác định các ngoại lệ và xu hướng: Giám sát AI di tích mới củng cố tất cả các phản hồi của AI thành chế độ xem cuộn, giúp xác định các ngoại lệ và xu hướng trong đầu ra của mô hình dễ dàng hơn. Các ngoại lệ có thể chỉ ra sự bất thường hoặc hành vi bất ngờ có thể cần điều tra thêm [6].
4. So sánh mô hình: Khả năng so sánh mô hình của Relic mới cho phép các nhà phát triển đánh giá mức độ khác nhau của các mô hình, bao gồm Deepseek-R1, thực hiện trong các điều kiện tương tự. Điều này giúp xác định những mô hình nào dễ bị dị thường hơn hoặc có thể cung cấp độ tin cậy và hiệu suất tốt hơn [1] [9].
5. Tối ưu hóa chi phí và hiệu suất: Bằng cách giám sát các số liệu chính như thông lượng và độ trễ, các nhà phát triển có thể tối ưu hóa hiệu suất của các mô hình DeepSeek trong khi quản lý chi phí. Quá trình tối ưu hóa này cũng có thể tiết lộ sự bất thường liên quan đến việc sử dụng tài nguyên hoặc hiệu quả [3] [9].
Tuy nhiên, mặc dù các khả năng giám sát này, các mô hình Deepseek-R1 đã được xác định với các lỗ hổng bảo mật đáng kể, bao gồm tính nhạy cảm với các lời nhắc đối nghịch và tạo ra nội dung có hại [5] [8]. Do đó, trong khi giám sát AI di tích mới có thể giúp xác định các dị thường hoạt động, việc giải quyết các rủi ro bảo mật này đòi hỏi các biện pháp bổ sung như kiểm tra bảo mật mạnh mẽ và hệ thống phát hiện bất thường [8].
Trích dẫn:
[1] https://newrelic.com/press-release/20250203
[2] https://zilliz.com/ai-faq/how-does-deepseeks-r1-model-handle-outofdistribution-inputs
[3] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring
[4] https://www.linkedin.com/posts/gariano_deploy-deepseek-models-locally-and-monitor-activity-7292645533943226369-BtJH
[5] https://www.appsoc.com/blog/testing-the-deepseek-r1-model-a-pandoras-box-of-security-risks
[6] https://newrelic.com/blog/how-to-relic/ai-monitoring
[7] https://www.computerweekly.com/news/366618774/New-Relic-extends-observability-to-DeepSeek
.
[9] https://www.dqchannels.com/news/new-relic-introduces-observability-solution-for-deepseek-ai-monitoring-8689063