تم تصميم GPT-4.5 للتعامل مع الإرشادات المتضاربة في المشكلات متعددة الخطوات من خلال الالتزام بالتسلسل الهرمي للتعليم. يساعد هذا التسلسل الهرمي على تحديد أولويات رسائل النظام عبر رسائل المستخدم ، وتخفيف مخاطر الحقن الفوري والهجمات الأخرى التي قد تتجاوز تعليمات السلامة [1] [5].
التعامل مع التعليمات المتعارضة
1. تقييم التسلسل الهرمي للإرشادات: يتم تدريب GPT-4.5 على التعرف على التعليمات واتبعها في رسالة الأولوية القصوى عند مواجهة رسائل متضاربة. يتضمن ذلك السيناريوهات التي تتعارض فيها رسائل النظام ورسائل المستخدم ، ويجب على النموذج اختيار مجموعة الإرشادات المراد متابعتها [1].
2. رسائل النظام مقابل رسائل المستخدم: يتم تعليم النموذج لتحديد أولويات رسائل النظام ، والتي تم تصميمها لفرض إرشادات السلامة والتشغيلية ، عبر رسائل المستخدم. هذا يضمن أن GPT-4.5 تلتزم ببروتوكولات السلامة الخاصة بها حتى عندما يحاول المستخدمون تجاوزها [1] [5].
3. السيناريوهات الواقعية: تتضمن التقييمات سيناريوهات واقعية حيث يعمل النموذج كمدرس ويجب أن يقاوم محاولات المستخدمين لخداعها إلى الإجابات أو الحلول. يُطلب من GPT-4.5 تعليمات إلى عدم التخلي عن الإجابات ، ويجب أن يتبع تعليمات النظام هذه على الرغم من محاولات المستخدم للتحايل عليها [1].
4. حماية العبارة وكلمة المرور: في نوع آخر من التقييم ، يُطلب من GPT-4.5 تعليمات إلى عدم إخراج عبارات محددة أو الكشف عن كلمات المرور. يجب أن يقاوم النموذج رسائل المستخدم المصممة لخداعها للقيام بذلك ، مما يدل على قدرته على حماية المعلومات الحساسة [1].
معالجة المشكلات متعددة الخطوات
بينما تم تصميم GPT-4.5 للتعامل مع الإرشادات المتضاربة بشكل فعال ، يمكن تحسين قدرتها على إدارة المشكلات متعددة الخطوات عن طريق هيكلة المطالبات بطريقة واضحة وتتابع. يتضمن ذلك تقسيم المهام إلى خطوات أصغر وضمان اكتمال كل خطوة قبل الانتقال إلى التالي [2]. ومع ذلك ، فإن أداء GPT-4.5 في اتباع تعليمات متعددة الخطوات تلقائيًا دون تدخل يدوي (على سبيل المثال ، يطالب "التالي") لا يزال يمثل تحديًا [4].
تحسين الأداء
لتعزيز أداء GPT-4.5 في المهام متعددة الخطوات ، يمكن للمستخدمين استخدام استراتيجيات مثل:
- بنية مطالبة واضحة: استخدم الرؤوس أو علامات الأقسام لتحديد كل خطوة بوضوح ، ومساعدة النموذج على التعرف على التسلسل ومتابعة بشكل أكثر فعالية [2].
-التنفيذ المتسلسل: قم بتنفيذ نهج خطوة بخطوة حيث تتم معالجة كل خطوة بالكامل قبل الانتقال إلى التالي ، والتي يمكن تسهيلها باستخدام الهياكل الشبيهة بالوظائف في مطالبات [2].
- التدخل اليدوي: إذا لزم الأمر ، قم بتطبيق النموذج يدويًا للمضي قدمًا في الخطوة التالية ، حيث قد لا يتحرك تلقائيًا عبر تسلسل دون مثل هذه العظة [4].
الاستشهادات:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://www.aifire.co/p/detailed-steps-to-build-multi-step-custom-gpts-solute-tys
[3] https://community.openai.com/t/how-to-deal-with-lazy-gpt-4/689286
[4] https://community.openai.com/t/gpt-getting-stuck-with-multi-step-instructions/613209
[5] https://www.reddit.com/r/singularity/comments/1izn175/openai_gpt45_system_card/
[6] https://community.openai.com/t/how-to-improve-gpt-4-api-output-length-and-spructure/1025132
[7]
[8]