GPT-4.5 ได้รับการประเมินเพื่อประสิทธิภาพในการบรรเทาความเสี่ยงที่เกี่ยวข้องกับการคุกคามทางเคมี, ชีวภาพ, รังสีและนิวเคลียร์ (CBRN) และการโน้มน้าวใจ นี่คือภาพรวมโดยละเอียดเกี่ยวกับความสามารถและการบรรเทา:
CBRN ความเสี่ยง
GPT-4.5 จัดเป็นความเสี่ยงปานกลางสำหรับภัยคุกคาม CBRN การจำแนกประเภทนี้ขึ้นอยู่กับการประเมินที่ประเมินความสามารถของแบบจำลองในการช่วยในการวางแผนการดำเนินงานของการทำซ้ำภัยคุกคามทางชีวภาพที่รู้จัก อย่างไรก็ตามความเสี่ยงนี้ถือว่ามีข้อ จำกัด เนื่องจากส่วนใหญ่ช่วยผู้เชี่ยวชาญที่มีความเชี่ยวชาญด้านโดเมนที่สำคัญอยู่แล้ว [1]
เพื่อลดความเสี่ยง CBRN GPT-4.5 ใช้กลยุทธ์หลายอย่าง:
- การบรรเทาการฝึกอบรมล่วงหน้า: โมเดลกรองข้อมูลที่เกี่ยวข้องกับการเพิ่มจำนวน CBRN ที่มี จำกัด หรือไม่มีการใช้งานที่ถูกต้องตามกฎหมาย สิ่งนี้จะช่วยลดการเปิดรับข้อมูลของแบบจำลองต่อข้อมูลที่อาจเป็นอันตราย [1]
- ความทนทานของโมเดล: GPT-4.5 ได้รับการออกแบบมาเพื่อทนต่อผู้ใช้ที่เป็นอันตรายและเป็นปฏิปักษ์โดยการปรับปรุงความสามารถในการต่อต้านการจัดการที่เกี่ยวข้องกับภัยคุกคาม CBRN [1]
- การตรวจสอบและตรวจจับ: ความพยายามเฉพาะเจาะจงในการตรวจสอบและตรวจจับกิจกรรมที่เกี่ยวข้องกับงาน CBRN เพื่อให้แน่ใจว่าการใช้งานในทางที่ผิดใด ๆ จะถูกระบุและแก้ไขอย่างรวดเร็ว [1]
ความเสี่ยงในการโน้มน้าวใจ
GPT-4.5 ยังมีการกำหนดความเสี่ยงปานกลางสำหรับการโน้มน้าวใจ นี่เป็นเพราะประสิทธิภาพที่ล้ำสมัยในการสร้างเนื้อหาโน้มน้าวใจซึ่งสามารถใช้ในการจัดการความเชื่อหรือการกระทำ [2]
เพื่อจัดการกับความเสี่ยงในการโน้มน้าวใจ GPT-4.5 ได้รวมการบรรเทาดังต่อไปนี้:
- การฝึกอบรมด้านความปลอดภัย: รูปแบบได้รับการฝึกอบรมเฉพาะเพื่อจัดการงานการโน้มน้าวใจทางการเมืองอย่างมีความรับผิดชอบโดยมีเป้าหมายเพื่อป้องกันการใช้ในทางที่ผิดสำหรับการมีอิทธิพลหรือจัดการกับความคิดเห็นของประชาชน [1]
- การตรวจสอบการดำเนินงานที่มีอิทธิพล: มีการตรวจสอบและตรวจสอบอย่างต่อเนื่องของการละเมิดที่น่าสงสัยที่เกี่ยวข้องกับการดำเนินงานที่มีอิทธิพลการดำเนินงานหัวรุนแรงและกิจกรรมทางการเมืองที่ไม่เหมาะสม สิ่งนี้จะช่วยระบุและลดความเสี่ยงในการโน้มน้าวใจที่อาจเกิดขึ้น [1]
- พิจารณาการประเมินการโน้มน้าวใจใหม่: OpenAI กำลังประเมินวิธีการประเมินความเสี่ยงการโน้มน้าวใจในโลกแห่งความเป็นจริงโดยมุ่งเน้นไปที่ปัจจัยต่าง ๆ เช่นเนื้อหาส่วนบุคคลการกระจายและการนำเสนอในช่วงเวลา [2]
โดยรวมในขณะที่ GPT-4.5 นำเสนอความเสี่ยงปานกลางสำหรับทั้ง CBRN และการโน้มน้าวใจมันใช้ชุดการบรรเทาที่แข็งแกร่งเพื่อลดความเสี่ยงเหล่านี้ เหล่านี้รวมถึงการกรองขั้นสูงการฝึกอบรมด้านความปลอดภัยและการตรวจสอบอย่างต่อเนื่องเพื่อให้แน่ใจว่าโมเดลนั้นใช้อย่างรับผิดชอบและปลอดภัย
การอ้างอิง:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://assets.ctfassets.net/kftzwdyauwt9/7eadv6oawhhhxlaehuyu7db/64e9f7916d3581ba4b5d0f0a6c5098d1/gpt-4-5_system
[3] https://centerforhealthsecurity.org/sites/default/files/2024-06/2024-06-02-jhchs-nist-ai-6001-rfc.pdf
[4] https://model-spec.openai.com
[5] https://www.reddit.com/r/chatgpt/comments/1iznoek/gpt45_system_card_mmlu_896/
[6] https://pmc.ncbi.nlm.nih.gov/articles/pmc10795998/
[7] https://openai.com/index/gpt-4-5-system-card/
[8] https://patriciagestoso.com/2024/05/21/openai-chatgpt-4o-the-good-the-bad-and-the-irresponsile/