GPT-4.5 จัดลำดับความสำคัญข้อความระบบผ่านข้อความผู้ใช้อย่างไร

ใน GPT-4.5 เมื่อระบบและข้อความของผู้ใช้ขัดแย้งกันโมเดลได้รับการฝึกฝนให้ทำตามคำแนะนำในข้อความระบบมากกว่าข้อความของผู้ใช้ นี่คือความสำเร็จโดยการดูแลแบบจำลองในตัวอย่างที่ข้อความประเภทนี้ขัดแย้งกัน โมเดลเรียนรู้ที่จะจัดลำดับความสำคัญข้อความของระบบเพื่อให้แน่ใจว่าการปฏิบัติตามแนวทางความปลอดภัยและเพื่อป้องกันเอาต์พุตที่ไม่พึงประสงค์

ตัวอย่างเช่นหากผู้ใช้พยายามที่จะหลอกแบบจำลองเพื่อให้ข้อมูลที่เป็นอันตรายข้อความระบบสามารถสั่งให้โมเดลปฏิเสธคำขอดังกล่าวได้ ความสามารถของ GPT-4.5 ในการปฏิบัติตามลำดับชั้นนี้ช่วยในการรักษามาตรฐานความปลอดภัยและป้องกันไม่ให้แบบจำลองถูกจัดการให้เกิดการสร้างเนื้อหาที่ไม่อนุญาต

วิธีการนี้มีความสำคัญอย่างยิ่งเพื่อให้มั่นใจว่า GPT-4.4.5 ทำงานอย่างสม่ำเสมอกับแนวทางด้านความปลอดภัยและจริยธรรมที่ตั้งใจไว้แม้ว่าจะต้องเผชิญกับความพยายามที่จะหลีกเลี่ยงกฎเหล่านี้ผ่านอินพุตของผู้ใช้ที่สร้างขึ้นอย่างชาญฉลาด โดยการจัดลำดับความสำคัญของข้อความระบบ OpenAI มีจุดมุ่งหมายเพื่อเพิ่มความน่าเชื่อถือและความปลอดภัยของโมเดลในแอปพลิเคชันต่าง ๆ [1] [2]

การอ้างอิง:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://www.prompthub.us/blog/everything-system-messages-how-to-use-them-real-world-experiments-prompt-injection-protectors
[3] https://platform.openai.com/docs/guides/prompt-engineering
[4] https://community.openai.com/t/whys-gpt-4o-insanely-limited-to-e-sers-and-even-plus-users-it-literally-barely- gives-you-5-messages-in-5-6-hours-to-the-free-users/7698522222
[5] https://9meters.com/technology/ai/gpt-4-5-begins-rolling-out-to-plus-and-team-users-next-week-then-to-enterprise-and-edu-users-forkering-week
[6] https://arxiv.org/html/2408.10943v1
[7] https://www.pymnts.com/artificial-intelligence-2/2025/openai-to-release-gpt-4-5-within-weeks-gpt-5-within-months/
[8] https://www.reddit.com/r/chatgptpro/comments/13n55w7/highly_efficient_prompt_for_summarizing_gpt4/