GPT-4.5 prioritizează mesajele sistemului prin mesajele utilizatorilor printr-o ierarhie de instrucțiuni, care este concepută pentru a atenua riscul de injecții prompte și alte atacuri care ar putea înlocui instrucțiunile de siguranță ale modelului. Această ierarhie clasifică mesajele în două tipuri principale: mesaje de sistem și mesaje de utilizator. Mesajele de sistem sunt în esență instrucțiuni ascunse care ghidează comportamentul AI, în timp ce mesajele utilizatorilor sunt intrările furnizate de utilizatori.
În GPT-4.5, atunci când sistemul și mesajele de utilizator intră în conflict, modelul este instruit să urmeze instrucțiunile din mesajul sistemului asupra celor din mesajul utilizatorului. Acest lucru se realizează prin supravegherea modelului pe exemple în care aceste tipuri de mesaje sunt în conflict. Modelul învață să acorde prioritate mesajelor sistemului pentru a asigura respectarea orientărilor de siguranță și pentru a preveni ieșirile nedorite.
De exemplu, dacă un utilizator încearcă să păcălească modelul să furnizeze informații nocive, mesajul de sistem poate instrui modelul să refuze astfel de solicitări. Capacitatea GPT-4.5 de a respecta această ierarhie ajută la menținerea standardelor de siguranță și la prevenirea modelului de a fi manipulat în generarea de conținut dezactivat.
Această abordare este crucială pentru a se asigura că GPT-4.5 se comportă în mod constant cu siguranța și orientările sale etice prevăzute, chiar și atunci când se confruntă cu încercările de a ocoli aceste reguli prin intermediul unor contribuții de utilizator inteligent. Prin prioritizarea mesajelor sistemului, OpenAI își propune să îmbunătățească fiabilitatea și securitatea modelului în diferite aplicații [1] [2].
Citări:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
]
[3] https://platform.openai.com/docs/guides/prompt-eningineering
[4] https://community.openai.com/t/whys-gpt-4o-insanely-limited-to-free-users-and-even-plus-users-it-literal-barely-gives-you-5-messages-in-5-6-lours-to-free-s-users/769852
[5] https://9meters.com/technology/ai/GPT-4-5-BEGINS-ROLLING OUT-TO-PLUS-AND TEX-UUSERS-NEXT-Week-Then-to-Enterprise-și-Edu-Users-the-Ullowing-Week
[6] https://arxiv.org/html/2408.10943v1
[7] https://www.pymnts.com/artificial-Intelligence-2/2025/openai-to-tralease-gpt-4-5-within-weeks-gpt-5-within-months/
[8] https://www.reddit.com/r/chatgptpro/comments/13n55w7/highly_eficient_prompt_for_summarizing_gpt4/