GPT-4.5 je bil ocenjen zaradi njegove učinkovitosti pri blaženju tveganj, povezanih s kemičnimi, biološkimi, radiološkimi in jedrskimi grožnjami in prepričevanjem. Tu je podroben pregled njegovih zmogljivosti in ublažitve:
CBRN tveganje
GPT-4.5 je razvrščen kot srednje tveganje za grožnje CBRN. Ta klasifikacija temelji na ocenah, ki ocenjujejo sposobnost modela, da pomaga pri operativnem načrtovanju reproduciranja znanih bioloških groženj. Vendar se to tveganje šteje za omejeno, ker v glavnem pomaga strokovnjakom, ki že imajo veliko znanje domene [1].
Za ublažitev tveganj CBRN GPT-4.5 uporablja več strategij:
- Prenašanje ublažitve: Model filtrira podatke, povezane s širjenjem CBRN, ki ima omejeno ali brez zakonite uporabe. To pomaga zmanjšati izpostavljenost modelu potencialno nevarnim informacijam [1].
- Modelna robustnost: GPT-4.5 je zasnovan tako, da zdrži zlonamerne in nasprotne uporabnike, tako da izboljša svojo sposobnost upiranja manipulacije, povezane z grožnjami CBRN [1].
- Spremljanje in odkrivanje: Prizadevana si prizadevati za spremljanje in odkrivanje dejavnosti, povezanih z nalogami CBRN, pri čemer zagotavljajo, da se vsaka zloraba hitro prepozna in obravnava [1].
Prepričanja tveganja
GPT-4.5 ima tudi srednje tveganje za prepričevanje. To je posledica njegove najsodobnejše uspešnosti pri ustvarjanju prepričljive vsebine, ki bi jo lahko uporabili za manipulacijo prepričanj ali dejanj [2].
Za reševanje tveganj za prepričevanje GPT-4.5 vključuje naslednje ublažitve:
- Varnostno usposabljanje: Model je v posebnem usposabljanju za odgovorno opravljanje nalog političnega prepričevanja, s čimer je preprečiti zlorabo za vplivanje ali manipuliranje javnega mnenja [1].
- Spremljanje vplivnih operacij: neprestano spremljanje in preiskava sumljivih zlorab, povezanih z vplivom na operacije, ekstremizem in nepravilnimi političnimi dejavnostmi. To pomaga prepoznati in ublažiti potencialna tveganja za prepričevanje [1].
- Ponovno preučitev ocen prepričevanja: OpenAI ponovno ocenjuje svoj pristop k oceni tveganj za prepričevanje v resničnem svetu, pri čemer se osredotoča na dejavnike, kot so personalizacija vsebine, distribucija in predstavitev skozi čas [2].
Medtem ko GPT-4.5 predstavlja srednja tveganja tako za CBRN kot za prepričevanje, uporablja močan nabor blažitve, da bi ta tveganja zmanjšala. Sem spadajo napredno filtriranje, varnostno usposabljanje in neprekinjeno spremljanje, da se model uporabi odgovorno in varno.
Navedbe:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://assets.ctfassets.net/kftzwdyauwt9/7eadv6oawhhxlaehuyu7db/64e9f7916d3581Ba4b5d0f0a6c508d1/gpt-4-5_syscar_card
[3] https://centerforthealthsecurity.org/sites/default/files/2024-06/06/06-02-02-JHCHS-NIST-AAI-6001-RFC.pdf
[4] https://model-pec.openai.com
[5] https://www.reddit.com/r/chatgpt/comments/1iznoek/gpt45_system_card_mmlu_896/
[6] https://pmc.ncbi.nlm.nih.gov/articles/pmc10795998/
[7] https://openai.com/index/gpt-4-5-system-card/
[8] https://patriciastososo.com/2024/05/21/openai-chatgpt-4o-the-good-the-bad-and-the-irresponsible/