GPT-4.5, kimyasal, biyolojik, radyolojik ve nükleer (CBRN) tehditleri ve ikna ile ilgili riskleri azaltmada etkinliği nedeniyle değerlendirilmiştir. İşte yetenekleri ve hafifletmeleri hakkında ayrıntılı bir genel bakış:
CBRN Riskler
GPT-4.5, CBRN tehditleri için orta bir risk olarak sınıflandırılır. Bu sınıflandırma, modelin bilinen biyolojik tehditlerin yeniden üretilmesinin operasyonel planlamasına yardımcı olma yeteneğini değerlendiren değerlendirmelere dayanmaktadır. Bununla birlikte, bu risk sınırlı kabul edilir, çünkü öncelikle önemli alan uzmanlığına sahip uzmanlara yardımcı olur [1].
CBRN risklerini azaltmak için GPT-4.5 çeşitli stratejiler kullanır:
- Eğitim öncesi hafifletmeler: Model, meşru kullanımı olan veya olmayan CBRN proliferasyonu ile ilgili verileri filtreler. Bu, modelin potansiyel olarak tehlikeli bilgilere maruz kalmasını azaltmaya yardımcı olur [1].
- Model sağlamlık: GPT-4.5, CBRN tehditleriyle ilgili manipülasyona direnme yeteneğini geliştirerek kötü niyetli ve düşman kullanıcılarına dayanacak şekilde tasarlanmıştır [1].
- İzleme ve Tespit: CBRN görevleriyle ilgili faaliyetleri izlemek ve tespit etmek için özel çaba sarf edilmiştir, bu da herhangi bir kötüye kullanımın hızlı bir şekilde tanımlanmasını ve ele alınmasını sağlar [1].
İkna Riskleri
GPT-4.5 ayrıca ikna için orta risk ataması yapar. Bunun nedeni, inançları veya eylemleri manipüle etmek için kullanılabilecek ikna edici içerik üretmedeki son teknoloji ürünü performansıdır [2].
İkna risklerini ele almak için GPT-4.5 aşağıdaki hafifletmeleri içerir:
- Güvenlik Eğitimi: Model, siyasi ikna görevlerini sorumlu bir şekilde ele almak için özel bir eğitime tabi tutarak, kamuoyunu etkilemek veya manipüle etmek için kötüye kullanımı önlemeyi amaçlamaktadır [1].
- Etki operasyonlarının izlenmesi: Etki operasyonları, aşırılık ve uygunsuz siyasi faaliyetlerle ilgili şüpheli istismarların sürekli izlenmesi ve araştırılması vardır. Bu, potansiyel ikna risklerini tanımlamaya ve azaltmaya yardımcı olur [1].
- İkna Değerlendirmelerini Yeniden Düşünme: Openai, gerçek dünyadaki ikna risklerini değerlendirme, içerik kişiselleştirme, dağıtım ve sunum gibi faktörlere odaklanarak yaklaşımını yeniden değerlendiriyor [2].
Genel olarak, GPT-4.5 hem CBRN hem de İkna için orta riskler sunarken, bu riskleri en aza indirmek için sağlam bir hafifletme kümesi kullanır. Bunlar, modelin sorumlu ve güvenli bir şekilde kullanılmasını sağlamak için gelişmiş filtreleme, güvenlik eğitimi ve sürekli izlemeyi içerir.
Alıntılar:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://assets.ctfassets.net/kftzwdyauwt9/7eadv6oawhhxlaehuyu7db/64ewhxla6c5098d1/gpt-4-5_system_card_2272025.
[3] https://centerforhealthsecurity.org/sites/default/files/2024-06/2024-06-02-jhchs-nist-ai-6001-rfc.pdf
[4] https://model-spec.openai.com
[5] https://www.reddit.com/r/chatgpt/comments/1iznoek/gpt45_system_card_mmlu_896/
[6] https://pmc.ncbi.nlm.nih.gov/articles/pmc10795998/
[7] https://openai.com/index/gpt-4-5-system-card/
[8] https://patriciagestioso.com/2024/05/21/openai-chatgpt-4o-the-good-the-the-the-the-pesponsible/