GPT-4.5 työllistää useita tekniikoita ristiriitaisten viestien käsittelemiseksi, etenkin sen ohjaushierarkiajärjestelmän kautta. Tämä hierarkia vahvistaa viestien prioriteettijärjestyksen varmistaen, että järjestelmäviestit priorisoidaan käyttäjäviestien, keskusteluhistorian ja työkalujen tulosten kautta [1] [2].
Ohjeet hierarkia
1 Tämä on ratkaisevan tärkeää skenaarioissa, joissa käyttäjän panokset voivat yrittää ohittaa järjestelmän asettamat turvallisuusohjeet tai muotoilua koskevat säännöt [1] [2].
2. Konfliktin ratkaisu: Malli arvioidaan sen kyvystä ratkaista ristiriitoja erityyppisten viestien välillä. Esimerkiksi, jos järjestelmäviesti kehottaa mallia olemaan paljastamatta tiettyä lausetta tai salasanaa, ja käyttäjäviesti yrittää huijata mallin siihen, GPT-4.5 on suunniteltu noudattamaan järjestelmäviestin ohjeita [1].
3. Koulutus ja arviointi: GPT-4.5 käy läpi laajan koulutuksen ja arvioinnin varmistaakseen, että se pystyy käsittelemään monimutkaisia skenaarioita, joissa järjestelmä- ja käyttäjäviestit ovat ristiriidassa. Tämä sisältää skenaariot, joissa mallin on valittava seuraavan järjestelmän ohjeen tai käyttäjän pyynnön välillä, joka on ristiriidassa sen kanssa [1] [2].
Ohjattu hienosäätö (SFT)
GPT-4.5 hyödyntää myös valvottua hienosäätöä (SFT), joka sisältää mallin kouluttamisen erityisiin esimerkkeihin, joissa on ristiriitaisia viestejä. Tämä tekniikka auttaa parantamaan mallin kykyä tunnistaa ja priorisoida järjestelmän ohjeet käyttäjän syöttöihin verrattuna parantaen sen suorituskykyä ristiriitaisten skenaarioiden käsittelyssä [3].
Uudet kohdistustekniikat
Lisäksi GPT-4.5 sisältää uusia kohdistustekniikoita, jotka parantavat sen ymmärrystä ihmisen mieltymyksistä ja tarkoituksista. Nämä tekniikat auttavat mallia tulkitsemaan paremmin sekä järjestelmä- että käyttäjäviestien taustalla olevaa kontekstia ja aikomusta, jolloin se voi tehdä tietoisempia päätöksiä käsitellessä konflikteja [5].
Kaiken kaikkiaan GPT-4.5: n lähestymistapa ristiriitaisten viestien käsittelemiseen yhdistää edistyneiden koulutusmenetelmät jäsennellyn ohjeiden hierarkian varmistamiseksi, että malli asettaa etusijalle turvallisuuden ja järjestelmän ohjeiden noudattamisen.
Viittaukset:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://arxiv.org/html/2502.08745v1
.
.
[5] https://venturebeat.com/ai/openai-releases-gpt-4-5/
[6] https://community.openai.com/t/how-to-deal-with-lazy-gpt-4/689286
[7] https://openai.com/index/introducing-gpt-4-5/
.