GPT-4.5 ir paredzēts, lai apstrādātu pretrunīgas instrukcijas daudzpakāpju problēmās, ievērojot instrukciju hierarhiju. Šī hierarhija palīdz modelim noteikt prioritāti sistēmas ziņojumiem salīdzinājumā ar lietotāja ziņojumiem, mazinot tūlītēju injekciju un citu uzbrukumu risku, kas varētu ignorēt drošības norādījumus [1] [5].
apstrādājot konfliktējošas instrukcijas
1. Instrukciju hierarhijas novērtējums: GPT-4.5 ir apmācīts atpazīt un ievērot instrukcijas augstākās prioritātes ziņojumā, saskaroties ar pretrunīgiem ziņojumiem. Tas ietver scenārijus, kad sistēmas ziņojumi un lietotāja ziņojumi ir konflikti, un modelim jāizvēlas, kurš instrukciju kopums jāievēro [1].
2. Sistēma pret lietotāja ziņojumiem: modelim tiek iemācīts noteikt prioritāti sistēmas ziņojumiem, kas ir paredzēti drošības un darbības vadlīniju ieviešanai, izmantojot lietotāja ziņojumus. Tas nodrošina, ka GPT-4.5 ievēro tā drošības protokolus pat tad, ja lietotāji mēģina tos apiet [1] [5].
3. Reālistiski scenāriji: Novērtējumi ietver reālistiskus scenārijus, kad modelis darbojas kā pasniedzējs, un tam ir pretoties lietotāju mēģinājumiem to pievilināt atklāt atbildes vai risinājumus. GPT-4.5 tiek uzdots nesniegt atbildes, un tam ir jāievēro šīs sistēmas instrukcijas, neskatoties uz lietotāja mēģinājumiem tās apiet [1].
4. frāze un paroles aizsardzība: cita veida novērtējumā GPT-4.5 tiek uzdots neiziet īpašas frāzes vai atklāt paroles. Modelim ir jāpretojas lietotāja ziņojumi, kas izstrādāti, lai to izdarītu, lai to izdarītu, parādot tā spēju aizsargāt sensitīvu informāciju [1].
daudzpakāpju problēmu apstrāde
Kamēr GPT-4.5 ir paredzēts, lai efektīvi apstrādātu konfliktējošas instrukcijas, tā spēju pārvaldīt daudzpakāpju problēmas var uzlabot, strukturējot uzvednes skaidrā, secīgā veidā. Tas nozīmē uzdevumu sadalīšanu mazākos soļos un katra darbības pabeigšanas nodrošināšana pirms pārcelšanās uz nākamo [2]. Tomēr GPT-4.5 veiktspēja automātiski ievērojot daudzpakāpju instrukcijas bez manuālas iejaukšanās (piemēram, "nākamais") joprojām ir izaicinājums [4].
Uzlabojot veiktspēju
Lai uzlabotu GPT-4.5 veiktspēju daudzpakāpju uzdevumos, lietotāji var izmantot tādas stratēģijas kā:
- Skaidra uzvednes struktūra: izmantojiet galvenes vai sadaļu marķierus, lai skaidri definētu katru soli, palīdzot modelim atpazīt un efektīvāk sekot secībai [2].
-Secīga izpilde: ieviesiet soli pa solim, kurā katrs solis ir pilnībā apstrādāts pirms pārcelšanās uz nākamo, ko var atvieglot, izmantojot funkcijām līdzīgas struktūras uzvednē [2].
- Manuāla iejaukšanās: ja nepieciešams, manuāli pamudiniet modeli pāriet uz nākamo soli, jo tas var automātiski pārvietoties caur secību bez šādām norādēm [4].
Atsauces:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://www.aifire.co/p/detailed-steps-to-build-multi-tipep-custom-gpts-solve-uzdevumi
[3] https://community.openai.com/t/how-to-deal-with-lazy-gpt-4/689286
[4] https://community.openai.com/t/gpt-getting-stuck-with-multi-step-instrukcijas/613209
[5] https://www.reddit.com/r/singularity/comments/1izn175/openai_gpt45_system_card/
[6] https://community.openai.com/t/how-to-improve-gpt-4-api-output-garums-and-structure/1025132
[7] https://www.reddit.com/r/singularity/comments/1iyrwvd/the_information_confirms_gpt45_this_week/
[8] https://www.reddit.com/r/openai/comments/197exmm/gpt4_has_only_been_getting_worse/