A GPT-4.5-et megvizsgálták annak hatékonyságának szempontjából a kémiai, biológiai, radiológiai és nukleáris (CBRN) fenyegetésekkel és meggyőzéssel kapcsolatos kockázatok enyhítésében. Itt található a képességek és enyhítések részletes áttekintése:
CBRN kockázatok
A GPT-4.5-et a CBRN fenyegetések közepes kockázatának minősítik. Ez a besorolás olyan értékeléseken alapul, amelyek felmérik a modell azon képességét, hogy segítsék az ismert biológiai fenyegetések reprodukciójának operatív tervezését. Ezt a kockázatot azonban korlátozottnak tekintik, mivel elsősorban olyan szakértőket segít, akik már jelentős domain szakértelemmel rendelkeznek [1].
A CBRN kockázatainak csökkentése érdekében a GPT-4.5 számos stratégiát alkalmaz:
- Előzetes edzés enyhítése: A modell kiszűri a CBRN proliferációjával kapcsolatos adatokat, amelyek korlátozottak vagy nem. Ez elősegíti a modell potenciálisan veszélyes információknak való kitettségének csökkentését [1].
- Modell robusztusság: A GPT-4.5-et úgy tervezték, hogy ellenálljon a rosszindulatú és egymással szembeni felhasználóknak azáltal, hogy javítja annak képességét, hogy ellenálljon a CBRN fenyegetésekkel kapcsolatos manipuláció ellen [1].
- Figyelemmel kísérés és észlelés: Dedikált erőfeszítéseket tesznek a CBRN feladatokkal kapcsolatos tevékenységek nyomon követésére és felismerésére, biztosítva, hogy a visszaélés gyorsan azonosítsa és kezelje [1].
meggyőző kockázatok
A GPT-4.5 közepes kockázatú megnevezést is tartalmaz a meggyőzéshez. Ennek oka a legkorszerűbb teljesítménye a meggyőző tartalom előállításában, amely felhasználható a hiedelmek vagy cselekedetek manipulálására [2].
A meggyőző kockázatok kezelése érdekében a GPT-4.5 magában foglalja a következő enyhítéseket:
- Biztonsági képzés: A modell konkrét képzésen megy keresztül a politikai meggyőző feladatok felelősségteljes kezelésére, amelynek célja a közvélemény befolyásolása vagy manipulálásának visszaélésének megakadályozása [1].
- A befolyásolási műveletek nyomon követése: Folyamatban van a behatolt visszaélések nyomon követése és vizsgálata a befolyásolással, a szélsőségességgel és a nem megfelelő politikai tevékenységekkel kapcsolatban. Ez segít azonosítani és enyhíteni a lehetséges meggyőző kockázatot [1].
- A meggyőzés értékeléseinek áttekintése: Az OpenAi újraértékeli a valós meggyőző kockázatok értékelésének megközelítését, olyan tényezőkre összpontosítva, mint a tartalom személyre szabása, terjesztése és bemutatása az idő múlásával [2].
Összességében, míg a GPT-4.5 közepes kockázatokat jelent mind a CBRN, mind a meggyőzés szempontjából, robusztus enyhítéseket alkalmaz e kockázatok minimalizálása érdekében. Ide tartoznak a fejlett szűrés, a biztonsági képzés és a folyamatos megfigyelés, hogy biztosítsák a modell felelősségteljes és biztonságos felhasználását.
Idézetek:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://assets.ctfassets.net/kftzwdyauwt9/7eadv6oawhhxlaehuyu7db/64e9f7916d3581ba4b5d0f0a6c5098d1/gpt-4-5_system_card_2272025.pdfffffff0f0a6c5098db
[3] https://centerforhealthsecurity.org/sites/default/files/2024-06/2024-06-02-JHCHS-NIST-AI-6001-RFC.PDF
[4] https://model-pec.openai.com
[5] https://www.reddit.com/r/chatgpt/comments/1iznoek/gpt45_system_card_mmlu_896/
[6] https://pmc.ncbi.nlm.nih.gov/articles/pmc10795998/
[7] https://openai.com/index/gpt-4-5-system-card/
[8] https://patriciapestoso.com/2024/05/21/openai-chatgpt-4o-the-bad-the-bad-and-the-irresponsible/