GPT-4.5 kasutab mitmeid tehnikaid vastuoluliste sõnumite käsitlemiseks, eriti selle juhendamishierarhias. See hierarhia kehtestab sõnumite prioriteetse järjekorra, tagades, et süsteemisõnumid eelistatakse kasutajasõnumite, vestlusajaloo ja tööriistaväljundite osas [1] [2].
Juhendihierarhia
1. süsteemisõnumid vs kasutajasõnumid: GPT-4.5 on koolitatud järgima süsteemisõnumite juhiseid vastuoluliste kasutajateadete üle. See on ülioluline stsenaariumide korral, kus kasutaja sisendid võivad proovida ohutusjuhiseid alistada või süsteemi seatud reegleid [1] [2].
2. Konfliktide lahendamine: mudelit hinnatakse selle võimet lahendada konfliktid eri tüüpi sõnumite vahel. Näiteks kui süsteemisõnum juhendab mudelit, et ma ei avalda konkreetset fraasi ega parooli, ja kasutajasõnum üritab mudelit selle tegemiseks petta, on GPT-4.5 kavandatud vastavalt süsteemisõnumi juhistele [1].
3. Koolitus ja hindamine: GPT-4.5 läbib ulatusliku koolituse ja hindamise, et tagada see keerukate stsenaariumidega, kus süsteem ja kasutajasõnumid on vastuolus. See hõlmab stsenaariume, kus mudel peab valima süsteemijuhise või kasutaja taotluse vahel, mis on sellega vastuolus [1] [2].
Juhendatud peenhäälestamine (SFT)
GPT-4.5 kasutab ka juhendatud peenhäälestamist (SFT), mis hõlmab mudeli koolitamist konkreetsete näidete kohta, kus on vastuolulisi sõnumeid. See tehnika aitab parandada mudeli võimet ära tunda ja tähtsustada süsteemi juhiseid kasutajate sisenditega, suurendades selle jõudlust vastuoluliste stsenaariumide käsitlemisel [3].
Uued joondamistehnikad
Lisaks hõlmab GPT-4.5 uusi joondusmeetodeid, mis suurendavad selle mõistmist inimlike eelistuste ja kavatsuste kohta. Need tehnikad aitavad mudelil paremini tõlgendada nii süsteemi kui ka kasutajateadete konteksti ja kavatsust, võimaldades sellel konfliktide käsitlemisel teha teadlikumaid otsuseid [5].
Üldiselt ühendab GPT-4,5 lähenemisviis konfliktiliste sõnumite käsitlemiseks täiustatud treeningmeetodeid struktureeritud juhiste hierarhiaga, et tagada mudeli ohutuse ja süsteemi juhiste ohutuse ja järgimine.
Tsitaadid:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://arxiv.org/html/2502.08745v1
[3] https://www.vellum.ai/blog/gpt-4-5-is-here-heres-how-good-th-model-is
]
[5] https://venturebeat.com/ai/openai-releaseses-gpt-4-5/
[6] https://community.openai.com/t/how-to-deal-with-mazy-gpt-4/689286
[7] https://openai.com/index/indroducing-gpt-4-5/
]