GPT-4.5 folosește mai multe tehnici pentru a gestiona mesaje conflictuale, în special prin sistemul său de ierarhie de instrucțiuni. Această ierarhie stabilește o ordine prioritară pentru mesaje, asigurându -se că mesajele de sistem sunt prioritare asupra mesajelor utilizatorilor, istoricul conversației și ieșirile instrumentelor [1] [2].
Ierarhie de instrucțiuni
1. Mesaje de sistem vs. Mesaje de utilizator: GPT-4.5 este instruit să urmeze instrucțiunile din mesajele de sistem prin mesaje de utilizator conflictuale. Acest lucru este crucial în scenariile în care intrările utilizatorilor ar putea încerca să înlocuiască ghidurile de siguranță sau regulile de formatare stabilite de sistem [1] [2].
2. Rezoluția conflictelor: Modelul este evaluat pe capacitatea sa de a rezolva conflictele între diferite tipuri de mesaje. De exemplu, dacă un mesaj de sistem instruiește modelul să nu dezvăluie o expresie sau o parolă specifică și un mesaj de utilizator încearcă să păcălească modelul în acest sens, GPT-4.5 este conceput pentru a respecta instrucțiunile mesajului de sistem [1].
3. Instruire și evaluare: GPT-4.5 suferă o pregătire și o evaluare extinsă pentru a se asigura că poate gestiona scenarii complexe în care sistemul și mesajele utilizatorilor sunt în conflict. Aceasta include scenarii în care modelul trebuie să aleagă între urmărirea unei instrucțiuni de sistem sau o solicitare a utilizatorului care îl contrazice [1] [2].
Supraveghere Fine-Tuning (SFT)
GPT-4.5 utilizează, de asemenea, reglarea fină supravegheată (SFT), care implică instruirea modelului pe exemple specifice în care sunt prezente mesaje conflictuale. Această tehnică ajută la îmbunătățirea capacității modelului de a recunoaște și prioritiza instrucțiunile sistemului cu privire la intrările utilizatorilor, îmbunătățindu -și performanța în gestionarea scenariilor conflictuale [3].
Noi tehnici de aliniere
În plus, GPT-4.5 încorporează noi tehnici de aliniere care îmbunătățesc înțelegerea preferințelor și intenției umane. Aceste tehnici ajută modelul să interpreteze mai bine contextul și intenția atât din spatele mesajelor de sistem, cât și a utilizatorilor, permițându -i să ia decizii mai informate atunci când gestionarea conflictelor [5].
În general, abordarea GPT-4.5 pentru gestionarea mesajelor conflictuale combină metode avansate de instruire cu o ierarhie structurată a instrucțiunilor pentru a se asigura că modelul prioritizează siguranța și respectarea orientărilor despre sistem.
Citări:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://arxiv.org/html/2502.08745v1
[3] https://www.vellum.ai/blog/gpt-4-5-is-here-heres-wow-lood-this-model-is
[4] https://community.openai.com/t/how-to-improve-gpt-4-api-output-length-and-structure/1025132
[5] https://venturebeat.com/ai/openai-relăase-gpt-4-5/
[6] https://community.openai.com/t/how-to-deal-with-wezy-gpt-4/689286
[7] https://openai.com/index/introducting-gpt-4-5/
[8] https://www.reddit.com/r/openai/comments/18monbs/gpt_4_has_been_toned_down_significant_and/