GPT-4,5 har utvärderats för sin effektivitet när det gäller att mildra risker relaterade till kemiska, biologiska, radiologiska och nukleära (CBRN) hot och övertalning. Här är en detaljerad översikt över dess kapacitet och minskning:
CBRN -risker
GPT-4.5 klassificeras som en medelhög risk för CBRN-hot. Denna klassificering är baserad på utvärderingar som bedömer modellens förmåga att hjälpa till i operationell planering för att reproducera kända biologiska hot. Denna risk anses dock vara begränsad eftersom den främst hjälper experter som redan har betydande domänkompetens [1].
För att mildra CBRN-risker använder GPT-4,5 flera strategier:
- Förutbildningsmitigationer: Modellen filtrerar ut data relaterade till CBRN-spridning som har begränsad eller ingen legitim användning. Detta hjälper till att minska modellens exponering för potentiellt farlig information [1].
- Model Robustness: GPT-4.5 är utformad för att motstå skadliga och motsatta användare genom att förbättra dess förmåga att motstå manipulation relaterad till CBRN-hot [1].
- Övervakning och upptäckt: Dedikerade ansträngningar görs för att övervaka och upptäcka aktiviteter relaterade till CBRN -uppgifter, vilket säkerställer att eventuellt missbruk snabbt identifieras och adresseras [1].
Övertalningsrisker
GPT-4.5 har också en medelhög riskbeteckning för övertalning. Detta beror på dess toppmoderna prestanda för att generera övertygande innehåll, som kan användas för att manipulera övertygelser eller handlingar [2].
För att ta itu med övertalningsrisker innehåller GPT-4.5 följande mildring:
- Säkerhetsutbildning: Modellen genomgår specifik utbildning för att hantera politiska övertalningsuppgifter på ett ansvarsfullt sätt och syftar till att förhindra missbruk för att påverka eller manipulera den allmänna opinionen [1].
- Övervakning av inflytande: Det pågår pågående övervakning och utredning av misstänkta övergrepp relaterade till inflytande operationer, extremism och felaktig politisk verksamhet. Detta hjälper till att identifiera och mildra potentiella övertalningsrisker [1].
- Omprövning av övertalningsbedömningar: OpenAI omvärderar sin strategi för att bedöma verkliga övertalningsrisker, med fokus på faktorer som innehållsanpassning, distribution och presentation över tid [2].
Sammantaget, medan GPT-4,5 utgör medelstora risker för både CBRN och övertalning, använder den en robust uppsättning minskningar för att minimera dessa risker. Dessa inkluderar avancerad filtrering, säkerhetsutbildning och kontinuerlig övervakning för att säkerställa att modellen används ansvarsfullt och säkert.
Citeringar:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://assets.ctfassets.net/kftzwdyauwt9/7eadv6oawhhxlaehuyu7db/64e9f7916d3581ba4b5d0f0a6c5098d1/gpt-4-5_system_card_2720272027202720272027202720272027202720272027202720272027202720272027202720272027202720272027202720272027202720272027202720272,PDF
[3] https://centerforhealthsecurity.org/sites/default/files/2024-06/2024-06-02-jhchs-nist-ai-6001-rfc.pdf
[4] https://model-spec.openai.com
[5] https://www.reddit.com/r/chatgpt/comments/1iznoek/gpt45_system_card_mmlu_896/
[6] https://pmc.ncbi.nlm.nih.gov/articles/pmc10795998/
[7] https://openai.com/index/gpt-4-5-system-card/
]