GPT-4.5 on hinnatud selle tõhususe osas keemiliste, bioloogiliste, radioloogiliste ja tuumaohtude (CBRN) ohtude ja veenmisega seotud riskide leevendamisel. Siin on üksikasjalik ülevaade selle võimalustest ja leevendustest:
cbrn riskid
GPT-4.5 klassifitseeritakse CBRN-i ohtude keskmise riskina. See klassifikatsioon põhineb hinnangutel, mis hindavad mudeli võimet aidata teadaolevate bioloogiliste ohtude reprodutseerimisel. Seda riski peetakse siiski piiratud, kuna see aitab peamiselt eksperte, kellel on juba olulisi domeeniteadmisi [1].
CBRN-i riskide leevendamiseks kasutab GPT-4.5 mitmeid strateegiaid:
- koolituseelne leevendamine: mudel filtreerib CBRN-i proliferatsiooniga seotud andmed, millel on piiratud või puudub õigustatud kasutamine. See aitab vähendada mudeli kokkupuudet potentsiaalselt ohtliku teabega [1].
- Mudeli vastupidavus: GPT-4.5 on loodud taluma pahatahtlikke ja võistlevaid kasutajaid, parandades selle võimet vastu panna CBRN-i ohtudega seotud manipuleerimisele [1].
- Seire ja tuvastamine: CBRN -iga seotud tegevustega seotud tegevuste jälgimiseks ja tuvastamiseks tehakse spetsiaalseid jõupingutusi, tagades, et mis tahes väärkasutamist on kiiresti tuvastatud ja käsitletud [1].
Veenmisriskid
GPT-4.5 kannab ka keskmise riskiga määramist veenmiseks. Selle põhjuseks on selle tipptasemel jõudlus veenva sisu genereerimisel, mida võiks kasutada veendumuste või toimingutega manipuleerimiseks [2].
Veenmisriskide lahendamiseks sisaldab GPT-4.5 järgmisi leevendusi:
- Ohutuskoolitus: mudel läbib konkreetset koolitust poliitiliste veenmisülesannete täitmiseks, mille eesmärk on vältida väärkasutamist avaliku arvamuse mõjutamiseks või manipuleerimiseks [1].
- Mõjutusoperatsioonide jälgimine: mõjutatavate kuritarvituste jälgimine ja uurimine on seotud operatsioonide, ekstremismi ja ebaõige poliitilise tegevusega. See aitab tuvastada ja leevendada võimalikke veenmisriske [1].
- Veenmise hinnangute kaalumine: OpenAi hindab ümber oma lähenemisviisi reaalse maailma veenmisriskide hindamisele, keskendudes sellistele teguritele nagu sisu isikupärastamine, levitamine ja esitamine aja jooksul [2].
Ehkki GPT-4,5 kujutab endast nii CBRN-i kui ka veenmise keskmist riske, kasutab ta nende riskide minimeerimiseks kindlat leevenduste kogumit. Nende hulka kuulub täiustatud filtreerimine, ohutuskoolitus ja pidev jälgimine, et tagada mudeli vastutustundlikult ja ohutult.
Tsitaadid:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
]
]
[4] https://model-pec.openai.com
[5] https://www.reddit.com/r/chatgpt/comments/1iznoek/gpt45_system_card_mmlu_896/
[6] https://pmc.ncbi.nlm.nih.gov/articles/pmc10795998/
[7] https://openai.com/index/gpt-4-5-system-card/
]