GPT-4.5 on suunniteltu käsittelemään ristiriitaisia ohjeita järjestelmän ja käyttäjäviestien välillä ohjehierarkian avulla. Tämä hierarkia auttaa mallia priorisoimaan käyttäjäviestejä järjestelmäviesteihin ristiriitaisiin kehotuksiin liittyviin riskiin, kuten pikainjektioihin tai muihin hyökkäyksiin, jotka saattavat ohittaa mallin turvallisuusohjeet.
Ohjaushierarkian avainominaisuudet
1 Järjestelmäviestejä pidetään korkeampana, ja niitä käytetään turvallisuusohjeiden tai erityisten ohjeiden asettamiseen mallille.
2. Konfliktin ratkaisu: Kun järjestelmä- ja käyttäjäviestit ovat ristiriidassa, GPT-4.5 on koulutettu noudattamaan järjestelmäviestin ohjeita. Tämä varmistaa, että malli noudattaa turvallisuusohjeita eikä harjoita haitallista tai kiellettyä toimintaa.
3. Arviointi ja koulutus: Malli arvioidaan sen kyvystä käsitellä konflikteja eri skenaarioiden kautta. Esimerkiksi skenaariossa, jossa mallia kehotetaan olemaan antamatta vastausta matematiikkaongelmaan (järjestelmäviesti), ja käyttäjä yrittää huijata sen tekemään niin (käyttäjäviesti), GPT-4.5: n on vastustettava käyttäjän yritystä ja noudatettava järjestelmäohjeita.
4. Suorituskyky: GPT-4,5 toimii yleensä hyvin näissä arvioinnissa, mikä osoittaa parannusta aiempiin malleihin, kuten GPT-4O, järjestelmän käyttäjän viestikonfliktien käsittelyssä. On kuitenkin erityisiä skenaarioita, joissa se ei välttämättä toimi yhtä hyvin kuin GPT-4O tai GPT-4O1, kuten tietyissä jailbreak-testeissä, joissa se huijataan paljastamiseen, sen ei pitäisi [1] [7].
Turvallisuusarvioinnit
GPT-4.5 käy tiukkoja turvallisuusarviointeja varmistaakseen, että se ei tuota kiellettyä sisältöä, kuten vihamielisiä tai laittomia neuvoja. Nämä arvioinnit arvioivat myös mallin taipumusta kunnostamaan turvallisuusaiheisiin liittyviä hyvänlaatuisia kehotuksia. Mallin suorituskyky näillä alueilla on kriittinen sen turvallisuuden ja luotettavuuden ylläpitämiselle käsitellessään ristiriitaisia ohjeita [1].
malli- ja auktoriteettitasot
Malli Specin kuvaa erityyppisten ohjeiden auktoriteettitasoja, ja alustan tason ohjeissa on korkein auktoriteetti, jota seuraavat kehittäjä- ja käyttäjän ohjeet. Tämä hierarkia varmistaa, että GPT-4.5 priorisoi turvallisuuden ja noudattaa ohjeita sallimalla käyttäjien ja kehittäjien mukauttamisen asetettujen rajojen sisällä [2] [5].
Kaiken kaikkiaan GPT-4.5: n kyky käsitellä ristiriitaisia ohjeita on keskeinen osa sen suunnittelua, varmistaen, että se ylläpitää turvallisuutta ja eheyttä vuorovaikutuksessa käyttäjien kanssa.
Viittaukset:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://model-spec.openai.com
[3] https://community.openai.com/t/how-to-deal-with-lazy-gpt-4/689286
[4] https://arxiv.org/html/2408.10943v1
.
[6] https://fortune.com/2025/02/14/sam-altman-openai-plans-gpt-5-release-timelines/
[7] https://www.reddit.com/r/singularity/comments/1izn175/openai_gpt45_system_card/
[8] https://www.reddit.com/r/openai/comments/197exmm/gpt4_has_only_been_getting_worse/