GPT-4.5 is beoordeeld op de effectiviteit ervan bij het verminderen van risico's die verband houden met chemische, biologische, radiologische en nucleaire (CBRN) bedreigingen en overtuiging. Hier is een gedetailleerd overzicht van zijn mogelijkheden en mitigaties:
CBRN risico's
GPT-4.5 is geclassificeerd als een gemiddeld risico voor CBRN-bedreigingen. Deze classificatie is gebaseerd op evaluaties die het vermogen van het model beoordelen om te helpen bij de operationele planning van het reproduceren van bekende biologische bedreigingen. Dit risico wordt echter als beperkt beschouwd omdat het voornamelijk experts helpt die al een belangrijke domeinexpertise bezitten [1].
Om CBRN-risico's te verminderen, gebruikt GPT-4.5 verschillende strategieën:
- Pre-trainingsmitigaties: het model filtert gegevens uit met betrekking tot CBRN-proliferatie die beperkt of geen legitiem gebruik heeft. Dit helpt de blootstelling van het model aan potentieel gevaarlijke informatie te verminderen [1].
- Model robuustheid: GPT-4.5 is ontworpen om kwaadaardige en tegenstanders te weerstaan door het vermogen te verbeteren om te weerstaan dat manipulatie met betrekking tot CBRN-bedreigingen is [1].
- Monitoring en detectie: toegewijde inspanningen worden geleverd om activiteiten met betrekking tot CBRN -taken te controleren en te detecteren, zodat elk misbruik snel wordt geïdentificeerd en aangepakt [1].
overtuiging risico's
GPT-4.5 heeft ook een middelgrote risicoaanduiding voor overtuiging. Dit komt door de state-of-the-art prestaties bij het genereren van overtuigende inhoud, die kan worden gebruikt om overtuigingen of acties te manipuleren [2].
Om overtuigende risico's aan te pakken, neemt GPT-4.5 de volgende mitigaties op:
- Veiligheidstraining: het model ondergaat specifieke training om politieke overtuigingstaken op een verantwoorde manier af te handelen, gericht op het voorkomen van misbruik voor het beïnvloeden of manipuleren van de publieke opinie [1].
- Monitoring van invloedsoperaties: er is voortdurende monitoring en onderzoek naar vermoedelijke misbruiken met betrekking tot invloedsoperaties, extremisme en onjuiste politieke activiteiten. Dit helpt bij het identificeren en verminderen van potentiële overtuigingrisico's [1].
- Heroverweging van overtuigingbeoordelingen: OpenAI evalueert zijn aanpak opnieuw om real-world overtuigingsrisico's te beoordelen, gericht op factoren zoals content personalisatie, distributie en presentatie in de tijd [2].
Over het algemeen, hoewel GPT-4.5 gemiddelde risico's oplevert voor zowel CBRN als overtuiging, gebruikt het een robuuste reeks mitigaties om deze risico's te minimaliseren. Deze omvatten geavanceerde filtering, veiligheidstraining en continue monitoring om ervoor te zorgen dat het model op verantwoorde wijze wordt gebruikt.
Citaten:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://assets.ctfassets.net/kftzwyauwt9/7eadv6oawhxlaehuyu7db/64e9f7916d3581ba4b5d0f0a6c5098d1/gpt-4-systal
[3] https://centerforhealthsecurity.org/sites/default/files/2024-06/2024-06-02-jhchs-nist-ai-6001-rfc.pdf
[4] https://modelspec.openai.com
[5] https://www.reddit.com/r/chatgpt/comments/1iznoek
[6] https://pmc.ncbi.nlm.nih.gov/articles/pmc10795998/
[7] https://openai.com/index/gpt-4-5-system-card/
[8] https://patriciagestoso.com/2024/05/21/openai-chatgpt-4o-the-good-the-bad-and-the-irresponsible/