GPT-4.5 оцінюється на його ефективність у пом'якшенні ризиків, пов'язаних з хімічними, біологічними, рентгенологічними та ядерними (CBRN) загрозами та переконаннями. Ось детальний огляд його можливостей та пом'якшення:
CBRN Ризики
GPT-4.5 класифікується як середній ризик загроз CBRN. Ця класифікація ґрунтується на оцінках, які оцінюють здатність моделі допомагати в оперативному плануванні відтворення відомих біологічних загроз. Однак цей ризик вважається обмеженим, оскільки він в першу чергу допомагає експертам, які вже мають значну експертизу домену [1].
Для зменшення ризиків CBRN, GPT-4,5 використовує кілька стратегій:
- Пом'якшення попередніх тренувань: Модель фільтрує дані, пов'язані з проліферацією CBRN, що має обмежене або взагалі законне використання. Це допомагає зменшити вплив моделі потенційно небезпечної інформації [1].
- Модельна стійкість: GPT-4.5 призначений для витримки зловмисних та змагальних користувачів, покращуючи його здатність протистояти маніпуляції, пов'язаним із загрозами CBRN [1].
- Моніторинг та виявлення: Складені зусилля докладаються для моніторингу та виявлення діяльності, пов'язаних із завданнями CBRN, гарантуючи, що будь -яке зловживання буде швидко ідентифіковане та вирішено [1].
Ризики переконань
GPT-4.5 також несе позначення середнього ризику для переконання. Це пов’язано з найсучаснішим виконанням у створенні переконливого контенту, який може бути використаний для маніпулювання переконань чи дій [2].
Для вирішення ризиків переконання, GPT-4.5 включає наступні пом'якшення:
- Навчання з безпеки: Модель проходить конкретну підготовку для вирішення завдань політичного переконання відповідально, спрямований на запобігання зловживанню впливу або маніпулювання громадською думкою [1].
- Моніторинг операцій з впливу: триває моніторинг та дослідження підозрюваних зловживань, пов'язаних з впливовими операціями, екстремізмом та неналежною політичною діяльністю. Це допомагає визначити та пом'якшити потенційні ризики переконання [1].
- Перегляд оцінок переконань: OpenAI переоцінює свій підхід до оцінки ризиків переконання в реальному світі, зосереджуючись на таких факторах, як персоналізація контенту, розповсюдження та презентація з часом [2].
Загалом, хоча GPT-4,5 представляє середні ризики як для CBRN, так і для переконання, він використовує надійний набір пом'якшення, щоб мінімізувати ці ризики. Сюди входять вдосконалена фільтрація, навчання безпеки та постійний моніторинг, щоб забезпечити використання моделі відповідально та безпечно.
Цитати:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
.
[3] https://centerforhealthsecurity.org/sites/default/files/2024-06/2024-06-02-jhchs-nist-ai-6001-rfc.pdf
[4] https://model-spec.openai.com
[5] https://www.reddit.com/r/chatgpt/comments/1iznoek/gpt45_system_card_mmlu_896/
[6] https://pmc.ncbi.nlm.nih.gov/articles/pmc10795998/
[7] https://openai.com/index/gpt-4-5-system-card/
[8] https://patriciagestoso.com/2024/05/21/openai-chatgpt-4o-good-the-bad-and-the-responsible/