GPT-4.5: n ohjehierarkia on suunniteltu lieventämään nopean injektion riskiä asettamalla selkeä prioriteettitilaus erityyppisille ohjeille. Tämä hierarkia varmistaa, että kehittäjien asettamat järjestelmäviestit ovat etusijalla käyttäjäviesteihin ja muihin panoksiin. Näin se toimii ja miten se auttaa estämään pettyneitä injektiohyökkäyksiä:
Kehollisten injektioiden ymmärtäminen
Nopeat injektiohyökkäykset tapahtuvat, kun haitalliset käyttäjät manipuloivat AI -malleja tarjoamalla tuloja, jotka ohittavat alkuperäiset järjestelmän ohjeet. Tämä voi johtaa tahattomaan käyttäytymiseen, kuten arkaluontoisen tiedon paljastamiseen tai luvattomien toimien suorittamiseen [2] [3].Ohje hierarkia
GPT-4.5: n ohjehierarkia priorisoi ohjeet niiden lähteen ja tärkeyden perusteella. Se luokittelee syötteet moniin tyyppeihin, tyypillisesti mukaan lukien:- Järjestelmäviestit: Nämä ovat kehittäjien asettamia korkeimpia etuja. Ne määrittelevät ensisijaiset tehtävät ja rajoitukset, joita mallin tulisi noudattaa.
- Käyttäjäviestit: Nämä ovat käyttäjien tarjoamia syötteitä, ja niitä pidetään prioriteettina pienemmissä kuin järjestelmäviesteissä.
- Keskusteluhistoria ja työkalujen lähdöt: Nämä voivat myös vaikuttaa malliin, mutta ne ovat yleensä alhaisemmat kuin käyttäjäviestit [1] [3].
Pikainjektioiden lieventäminen
Nopean injektiohyökkäyksen lieventämiseksi ohjesubarkia varmistaa, että GPT-4,5 noudattaa seuraavia periaatteita:- Priorisointi: Malli priorisoi järjestelmäviestit käyttäjän syöttöihin nähden. Jos käyttäjä yrittää pistää kehotuksen, joka on ristiriidassa järjestelmän ohjeiden kanssa, malli laiminlyö alkuperäisen ohjeen [3] [5].
- Väärin kohdistettujen kehotusten havaitseminen: GPT-4.5 on koulutettu tunnistamaan ja jättämään huomiotta järjestelmän ohjeiden kanssa ristiriidat. Esimerkiksi, jos käyttäjä syöttää "Unohda kaikki aiemmat ohjeet", malli tunnistaa tämän väärin suuntautuneena kehotuksena ja vastaa vastaavasti [3].
-Alemman prioriteetin valikoiva huomiotta jättäminen: Malli on suunniteltu selektiivisesti sivuuttamaan alhaisemman prioriteetin ohjeet, kun ne ovat ristiriidassa korkeamman prioriteetin kanssa. Tämä varmistaa, että malli ylläpitää aiottua käyttäytymistään jopa haitallisten panosten kohdalla [7].
Koulutus ja arviointi
GPT-4.5 koulutetaan käyttämällä tekniikoita, jotka korostavat ohjehierarkiaa, kuten synteettisen tiedon muodostumista ja kontekstin tislausta. Nämä menetelmät auttavat mallia oppimaan priorisoimaan ohjeet tehokkaasti ja vastustamaan haitallisia tuloja [6] [7]. Mallin suorituskykyä arvioidaan skenaarioissa, joissa järjestelmäviestit ovat ristiriidassa käyttäjän panosten kanssa varmistaen, että se noudattaa ohjehierarkiaa ja ylläpitää turvallisuusominaisuuksiaan [5].Kaiken kaikkiaan GPT-4.5: n ohjehierarkia parantaa mallin turvallisuutta varmistamalla, että se noudattaa kehittäjien asettamia aikomuksia, jopa ristiriitaisten tai haitallisten käyttäjien panosten edessä. Tämä lähestymistapa on ratkaisevan tärkeä luotettavien AI-järjestelmien rakentamiselle, joka voi toimia turvallisesti reaalimaailman sovelluksissa.
Viittaukset:
[1] https://arxiv.org/html/2502.08745v1
[2] https://www.aporia.com/learn/prompt-injection-types-prevention-examples/
[3] https://www.amitysolutions.com/blog/gpt4o-mini-instruction-hierarchy
.
[5] https://cdn.openai.com/gpt-4-5-system-card.pdf
.
[7] https://openai.com/index/the-instruction-hierarchy/
[8] https://arxiv.org/html/2311.11538v2