GPT-4.5 ได้รับการออกแบบมาเพื่อจัดการกับคำแนะนำที่ขัดแย้งกันในปัญหาหลายขั้นตอนโดยปฏิบัติตามลำดับชั้นการเรียนการสอน ลำดับชั้นนี้ช่วยให้แบบจำลองจัดลำดับความสำคัญข้อความระบบผ่านข้อความผู้ใช้ลดความเสี่ยงของการฉีดทันทีและการโจมตีอื่น ๆ ที่อาจแทนที่คำแนะนำด้านความปลอดภัย [1] [5]
การจัดการคำแนะนำที่ขัดแย้งกัน
1. การประเมินลำดับชั้นการเรียนการสอน: GPT-4.5 ได้รับการฝึกฝนให้รับรู้และทำตามคำแนะนำในข้อความลำดับความสำคัญสูงสุดเมื่อต้องเผชิญกับข้อความที่ขัดแย้งกัน ซึ่งรวมถึงสถานการณ์ที่ข้อความระบบและข้อความผู้ใช้ขัดแย้งและโมเดลต้องเลือกชุดคำสั่งที่จะปฏิบัติตาม [1]
2. ระบบกับข้อความผู้ใช้: โมเดลได้รับการสอนให้จัดลำดับความสำคัญข้อความระบบซึ่งออกแบบมาเพื่อบังคับใช้แนวทางความปลอดภัยและการดำเนินงานผ่านข้อความผู้ใช้ สิ่งนี้ทำให้มั่นใจได้ว่า GPT-4.5.5 ปฏิบัติตามโปรโตคอลความปลอดภัยแม้ว่าผู้ใช้จะพยายามข้ามพวกเขา [1] [5]
3. สถานการณ์จริง: การประเมินรวมถึงสถานการณ์จริงที่โมเดลทำหน้าที่เป็นครูสอนพิเศษและต้องต่อต้านความพยายามของผู้ใช้เพื่อหลอกให้เปิดเผยคำตอบหรือวิธีแก้ปัญหา GPT-4.5 ได้รับคำสั่งให้ไม่ให้คำตอบและจะต้องทำตามคำแนะนำของระบบเหล่านี้แม้จะมีความพยายามของผู้ใช้ที่จะหลีกเลี่ยงพวกเขา [1]
4. การป้องกันวลีและรหัสผ่าน: ในการประเมินประเภทอื่น GPT-4.5 ได้รับคำสั่งไม่ให้ส่งออกวลีเฉพาะหรือเปิดเผยรหัสผ่าน โมเดลต้องต้านทานข้อความผู้ใช้ที่ออกแบบมาเพื่อหลอกให้ทำเช่นนั้นแสดงให้เห็นถึงความสามารถในการปกป้องข้อมูลที่ละเอียดอ่อน [1]
การจัดการปัญหาหลายขั้นตอน
ในขณะที่ GPT-4.5 ได้รับการออกแบบมาเพื่อจัดการกับคำแนะนำที่ขัดแย้งกันอย่างมีประสิทธิภาพ แต่ความสามารถในการจัดการปัญหาหลายขั้นตอนสามารถปรับปรุงได้โดยการจัดโครงสร้างพร้อมท์ในลักษณะที่ชัดเจนและต่อเนื่อง สิ่งนี้เกี่ยวข้องกับการแบ่งงานเป็นขั้นตอนที่เล็กลงและทำให้มั่นใจว่าแต่ละขั้นตอนจะเสร็จสมบูรณ์ก่อนที่จะย้ายไปยังอีก [2] อย่างไรก็ตามประสิทธิภาพของ GPT-4.5 ในการทำตามคำแนะนำหลายขั้นตอนโดยอัตโนมัติโดยไม่ต้องมีการแทรกแซงด้วยตนเอง (เช่นการแจ้งเตือน "ถัดไป") ยังคงเป็นสิ่งที่ท้าทาย [4]
การปรับปรุงประสิทธิภาพ
เพื่อปรับปรุงประสิทธิภาพของ GPT-4.5 ในงานหลายขั้นตอนผู้ใช้สามารถใช้กลยุทธ์เช่น:
- โครงสร้างพรอมต์ที่ชัดเจน: ใช้ส่วนหัวหรือเครื่องหมายส่วนเพื่อกำหนดแต่ละขั้นตอนอย่างชัดเจนช่วยให้แบบจำลองรับรู้และติดตามลำดับได้อย่างมีประสิทธิภาพมากขึ้น [2]
-การดำเนินการตามลำดับ: ใช้วิธีการทีละขั้นตอนที่แต่ละขั้นตอนได้รับการประมวลผลอย่างเต็มที่ก่อนที่จะย้ายไปยังอีกขั้นซึ่งสามารถอำนวยความสะดวกได้โดยใช้โครงสร้างคล้ายฟังก์ชั่นในพรอมต์ [2]
- การแทรกแซงด้วยตนเอง: หากจำเป็นต้องแจ้งให้แบบจำลองดำเนินการต่อไปยังขั้นตอนต่อไปเนื่องจากอาจไม่ผ่านลำดับโดยอัตโนมัติโดยไม่มีตัวชี้นำดังกล่าว [4]
การอ้างอิง:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://www.aifire.co/p/detailed-steps-to-build-multi-step-custom-gpts-solve-tasks
[3] https://community.openai.com/t/how-to-deal-with-lazy-gpt-4/689286
[4] https://community.openai.com/t/gpt-getting-stuck-with-multi-step-instructions/613209
[5] https://www.reddit.com/r/singularity/comments/1izn175/openai_gpt45_system_card/
[6] https://community.openai.com/t/how-to-improve-gpt-4-api-output-length-and-dructure/1025132
[7] https://www.reddit.com/r/singularity/comments/1iyrwvd/the_information_confirms_gpt45_this_week/
[8] https://www.reddit.com/r/openai/comments/197exmm/gpt4_has_only_been_getting_worse/