GPT-4.5 został oceniony pod kątem jego skuteczności w łagodzeniu ryzyka związanych z zagrożeniami i perswazją i perswazją (CBRN). Oto szczegółowy przegląd jego możliwości i łagodzenia:
CBRN Risks
GPT-4.5 jest klasyfikowane jako średnie ryzyko zagrożeń CBRN. Ta klasyfikacja opiera się na ocenach oceniających zdolność modelu do pomocy w planowaniu operacyjnym odtwarzania znanych zagrożeń biologicznych. Ryzyko to uznaje się jednak za ograniczone, ponieważ przede wszystkim pomaga ekspertom, którzy mają już znaczącą wiedzę specjalistyczną w dziedzinie [1].
Aby ograniczyć ryzyko CBRN, GPT-4.5 stosuje kilka strategii:
- Ministerstwa przed treningiem: model filtruje dane związane z proliferacją CBRN, która ma ograniczone lub bez uzasadnionego zastosowania. Pomaga to zmniejszyć narażenie modelu na potencjalnie niebezpieczne informacje [1].
- Solidność modelu: GPT-4.5 jest zaprojektowany tak, aby wytrzymać złośliwych i przeciwników użytkowników poprzez poprawę jego zdolności do przeciwdziałania manipulacji związanej z zagrożeniami CBRN [1].
- Monitorowanie i wykrywanie: podejmowane są wysiłki w celu monitorowania i wykrywania działań związanych z zadaniami CBRN, zapewniając, że wszelkie niewłaściwe użycie zostaną szybko zidentyfikowane i rozwiązane [1].
ryzyko perswazji
GPT-4.5 niesie również na średnio oznaczenie ryzyka perswazji. Wynika to z najnowocześniejszej wydajności w generowaniu przekonujących treści, które można wykorzystać do manipulowania przekonaniami lub działaniami [2].
Aby zająć się ryzykiem perswazji, GPT-4.5 zawiera następujące łagodzenie:
- Szkolenie w zakresie bezpieczeństwa: model przechodzi konkretne szkolenie w celu odpowiedzialnego radzenia sobie z zadaniami perswazji politycznej, mając na celu zapobieganie niewłaściwemu użyciu wpływu lub manipulowania opinią publiczną [1].
- Monitorowanie Operacji wpływowych: trwa monitorowanie i dochodzenie w sprawie podejrzanych nadużyć związanych z działaniami, ekstremizmem i niewłaściwymi działaniami politycznymi. Pomaga to zidentyfikować i łagodzić potencjalne ryzyko perswazji [1].
- Ponowne rozważenie oceny perswazji: Openai ponownie ocenia swoje podejście do oceny ryzyka perswazji w świecie rzeczywistym, koncentrując się na czynnikach takich jak personalizacja treści, dystrybucja i prezentacja w czasie [2].
Ogólnie rzecz biorąc, podczas gdy GPT-4,5 stanowi średni ryzyko zarówno dla CBRN, jak i perswazji, wykorzystuje solidny zestaw łagodzenia, aby zminimalizować te ryzyko. Obejmują one zaawansowane filtrowanie, szkolenie bezpieczeństwa i ciągłe monitorowanie, aby upewnić się, że model jest stosowany odpowiedzialnie i bezpiecznie.
Cytaty:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://assets.ctfassets.net/kftzwdyauwt9/7eadv6oawhhxlaehuyu7db/64e9f7916d3581ba4b5d0f0a6c5098d1/gpt-4-5_system_card_2272025.pdf
[3] https://centerForhealthsecurity.org/sites/default/files/2024-06/2024-06-02-jhchs-nist-ai-6001-rfc.pdf
[4] https://model-spec.openai.com
[5] https://www.reddit.com/r/chatgpt/comments/1iznoek/gpt45_system_card_mmlu_896/
[6] https://pmc.ncbi.nlm.nih.gov/articles/pmc10795998/
[7] https://openai.com/index/gpt-4-5-system-card/
[8] https://patriciagestoso.com/2024/05/21/openai-chatgpt-4o-the-good-the-bad-and-the-irresponsible/