تلعب مراقبة Relic AI الجديدة دورًا حاسمًا في تحديد الحالات الشاذة في نماذج DeepSeek-R1 من خلال توفير رؤية شاملة في مكدس تطبيق الذكاء الاصطناعي. يتضمن ذلك تتبع المقاييس الرئيسية مثل الإنتاجية والكمون والتكاليف ، والتي تعد ضرورية لفهم كيفية أداء النموذج في ظل ظروف مختلفة [1] [4] [9]. إليك كيف تساعد مراقبة Relic AI الجديدة في تحديد الحالات الشاذة:
1. المراقبة في الوقت الفعلي: يوفر New Relic قدرات مراقبة في الوقت الفعلي تتيح للمطورين مراقبة أداء نماذج Deepseek أثناء عملها. هذه الرؤية في الوقت الفعلي أمر بالغ الأهمية لاكتشاف الحالات الشاذة أو السلوك غير المتوقع في إخراج النموذج أو أداءه [3] [9].
2. تتبع عميق: يوفر المنصة آثارًا عميقة لكل استجابة تم إنشاؤها بواسطة نموذج الذكاء الاصطناعي. تتيح إمكانية التتبع هذه للمستخدمين رؤية دورة حياة كاملة لكل استجابة ، من المطالبة الأولية إلى جميع مراحل المعالجة. يساعد هذا العرض التفصيلي في تحديد مكان حدوث الحالات الشاذة ، سواء كان ذلك في منطق معالجة النموذج أو في التفاعلات مع مكونات التطبيق الأخرى [6].
3. تحديد القيم المتطرفة والاتجاهات: يعزز مراقبة Relic AI الجديدة جميع استجابات الذكاء الاصطناعى في طريقة العرض ، مما يسهل تحديد القيم المتطرفة والاتجاهات في مخرجات النموذج. يمكن أن تشير القيم المتطرفة إلى الحالات الشاذة أو السلوك غير المتوقع الذي قد يحتاج إلى مزيد من التحقيق [6].
4. مقارنة النموذج: تمكن إمكانات مقارنة نموذج New Relic للمطورين من تقييم كيفية أداء النماذج المختلفة ، بما في ذلك DeepSeek-R1 ، في ظل ظروف مماثلة. يساعد هذا في تحديد النماذج الأكثر عرضة للشروط أو التي قد توفر موثوقية وأداء أفضل [1] [9].
5. التكلفة والتحسين الأداء: من خلال مراقبة المقاييس الرئيسية مثل الإنتاجية والكمون ، يمكن للمطورين تحسين أداء نماذج Deepseek أثناء إدارة التكاليف. يمكن أن تكشف عملية التحسين هذه أيضًا عن الحالات الشاذة المتعلقة باستخدام الموارد أو الكفاءة [3] [9].
ومع ذلك ، على الرغم من قدرات المراقبة هذه ، تم تحديد نماذج Deepseek-R1 مع نقاط الضعف الأمنية الكبيرة ، بما في ذلك التعرض لمطالبات العدائية وتوليد محتوى ضار [5] [8]. لذلك ، في حين أن مراقبة AI الجديدة يمكن أن تساعد في تحديد الحالات الشاذة التشغيلية ، فإن معالجة هذه المخاطر الأمنية تتطلب تدابير إضافية مثل الاختبارات الأمنية القوية وأنظمة الكشف عن الشذوذ [8].
الاستشهادات:
[1] https://newrelic.com/press-release/20250203
[2] https://zilliz.com/ai-faq/how-does-deepseeks-r1-model-antle-outoffistribution
[3] https://newrelic.com/blog/how-to-trielic/deploy-deepseek-models-locally--monitor-with-new-relic-ai-monitoring
[4] https://www.linkedin.com/posts/gariano_deploy-deepseek-models-locally--monitor-activity-7292645533943226369-btjh
[5] https://www.appsoc.com/blog/testing-the-deepseek-r1-model-a-pandoras-box-of-security-risks
[6] https://newrelic.com/blog/how-to-trielic/ai-monitoring
[7] https://www.computerweekly.com/news/366618774/new-relic-extends-observable-to-deepeek
[8]
[9] https://www.dqchannels.com/news/new-relic-introduces-observability-solution-for-deepseek-ai-monitoring-8689063