GPT-4,5 sa hodnotil z hľadiska jeho účinnosti pri zmierňovaní rizík súvisiacich s chemickými, biologickými, rádiologickými a jadrovými (CBRN) hrozbami a presviedčaním. Tu je podrobný prehľad o jeho schopnostiach a zmierňovaní:
CBRN Risks
GPT-4,5 je klasifikovaný ako stredné riziko hrozieb CBRN. Táto klasifikácia je založená na hodnoteniach, ktoré hodnotia schopnosť modelu pomôcť pri prevádzkovom plánovaní reprodukcie známych biologických hrozieb. Toto riziko sa však považuje za obmedzené, pretože primárne pomáha odborníkom, ktorí už majú významné odborné znalosti v oblasti domén [1].
Na zmiernenie rizík CBRN, GPT-4,5 využíva niekoľko stratégií:
- Zmiernenie predbežného výcviku: Model filtruje údaje týkajúce sa šírenia CBRN, ktorá má obmedzené alebo žiadne legitímne použitie. To pomáha znižovať vystavenie modelu potenciálne nebezpečným informáciám [1].
- Model robustnosť: GPT-4,5 je navrhnutý tak, aby odolal škodlivým a kontradiktórnym používateľom zlepšením svojej schopnosti odolávať manipulácii súvisiacej s hrozbami CBRN [1].
- Monitorovanie a detekcia: Vyvíjajú sa úsilie na monitorovanie a zisťovanie činností súvisiacich s úlohami CBRN, čím sa zabezpečuje, že akékoľvek zneužitie sa rýchlo identifikuje a rieši [1].
Presviedčanie riziko
GPT-4,5 tiež prináša na presviedčanie označenie stredného rizika. Dôvodom je jeho najmodernejší výkon pri vytváraní presvedčivého obsahu, ktorý by sa mohol použiť na manipuláciu s vierou alebo činmi [2].
Na riešenie rizík presviedčania GPT-4,5 zahŕňa tieto zmiernenie:
- Výcvik bezpečnosti: Model prechádza špecifickým výcvikom na zodpovedne zvládnutie úloh politického presvedčenia, ktorého cieľom je zabrániť zneužitiu na ovplyvňovanie alebo manipuláciu s verejnou mienkou [1].
- Monitorovanie vplyvu Operácie: Prebiehajú monitorovanie a vyšetrovanie podozrivých zneužívaní súvisiacich s ovplyvňujúcimi operáciami, extrémizmom a nesprávnymi politickými činnosťami. To pomáha identifikovať a zmierniť potenciálne riziká presvedčenia [1].
- Prehodnotenie hodnotenia presviedčania: OpenAI prehodnocuje svoj prístup k hodnoteniu rizík presviedčania v reálnom svete so zameraním na faktory, ako je prispôsobenie obsahu, distribúcia a prezentácia v priebehu času [2].
Celkovo, zatiaľ čo GPT-4,5 predstavuje stredné riziká pre CBRN aj presvedčenie, využíva robustný súbor zmiernení na minimalizáciu týchto rizík. Patria sem pokročilé filtrovanie, bezpečnostný výcvik a nepretržité monitorovanie, aby sa zabezpečilo, že model sa používa zodpovedne a bezpečne.
Citácie:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://assets.ctfassets.net/kftzwdyAuwt9/7eadv6oawhhxlaehuyu7db/64e9f7916d3581ba4b5d0f0a6c5098d1/gpt-4-5-5_system_card_2272025.pd0f0f0a6c5098d1/gpt-4-5_system_card_2272025.pdfdfd0f0f0f0a.
[3] https://centerforhealthsecurity.org/sites/default/files/2024-06/2024-06-02-02-jhchs-ponist-ai-6001-rfc.pdf
[4] https://model-ppec.openai.com
[5] https://www.reddit.com/r/chatgpt/comments/1iznoek/gpt45_system_card_mmlu_896/
[6] https://pmc.ncbi.nlm.nih.gov/articles/pmc10795998/
[7] https://openai.com/index/gpt-4-5-system-card/
[8] https://patriciagestoso.com/2024/05/21/openai-chatgpt-4o-the-good-the-bad-and-the-irresponsible/