GPT-4.5 memprioritaskan pesan sistem daripada pesan pengguna melalui hierarki instruksi, yang dirancang untuk mengurangi risiko suntikan yang cepat dan serangan lain yang mungkin mengganti instruksi keselamatan model. Hirarki ini mengklasifikasikan pesan menjadi dua jenis utama: pesan sistem dan pesan pengguna. Pesan sistem pada dasarnya adalah instruksi tersembunyi yang memandu perilaku AI, sementara pesan pengguna adalah input yang disediakan oleh pengguna.
Dalam GPT-4.5, ketika sistem dan pesan pengguna konflik, model dilatih untuk mengikuti instruksi dalam pesan sistem atas yang ada dalam pesan pengguna. Ini dicapai dengan mengawasi model pada contoh -contoh di mana jenis -jenis pesan ini bertentangan. Model ini belajar memprioritaskan pesan sistem untuk memastikan kepatuhan terhadap pedoman keselamatan dan untuk mencegah output yang tidak diinginkan.
Misalnya, jika pengguna mencoba menipu model agar memberikan informasi berbahaya, pesan sistem dapat menginstruksikan model untuk menolak permintaan tersebut. Kemampuan GPT-4.5 untuk mematuhi hierarki ini membantu menjaga standar keselamatan dan mencegah model dimanipulasi untuk menghasilkan konten yang tidak diizinkan.
Pendekatan ini sangat penting untuk memastikan bahwa GPT-4.5 berperilaku konsisten dengan keselamatan dan pedoman etika yang dimaksudkan, bahkan ketika dihadapkan dengan upaya untuk melewati aturan-aturan ini melalui input pengguna yang dibuat dengan cerdik. Dengan memprioritaskan pesan sistem, OpenAI bertujuan untuk meningkatkan keandalan dan keamanan model dalam berbagai aplikasi [1] [2].
Kutipan:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://www.prompthub.us/blog/everything-system-messages-how-tus-use-them-real-world-experiments-prompt-injection-protectors
[3] https://platform.openai.com/docs/guides/prompt-engineering
[4] https://community.openai.com/t/whys-gpt-4o-insanely-limited-to-free-users-and-even-plus-users-it-literally-barely-gives-you-5-messages-in-5-6-hours-to-te-te-seucers/769852
[5] https://9meters.com/technology/ai/gpt-4-5-begins-rolling-out-tplus-and-team-users-next-week-then-ten-terprise-and-edu-users-the-following-week
[6] https://arxiv.org/html/2408.10943v1
[7] https://www.pymnts.com/artificial-intelligence-2/2025/openai-to-rlease-gpt-4-5-within-weeks-gpt-5-within-months/
[8] https://www.reddit.com/r/chatgptpro/comments/13n55w7/highly_eficient_promppt_for_summarizing_gpt4/