มานุษยวิทยาใช้ "นโยบายการปรับขนาดที่รับผิดชอบ" (RSP) เพื่อจัดการความเสี่ยงที่เชื่อมโยงกับโมเดล AI ที่มีความสามารถมากขึ้น [5] นโยบายนี้ใช้กรอบการทำงานที่เรียกว่าระดับความปลอดภัย AI (ASL) โดยใช้แรงบันดาลใจจากมาตรฐานระดับความปลอดภัยทางชีวภาพของรัฐบาลสหรัฐฯสำหรับการจัดการวัสดุชีวภาพอันตราย [5] Framework ASL ได้รับการออกแบบมาเพื่อใช้ความปลอดภัยความปลอดภัยและมาตรฐานการปฏิบัติงานที่เหมาะสมกับศักยภาพของโมเดลสำหรับความเสี่ยงภัยพิบัติโดยมีระดับ ASL สูงขึ้นซึ่งต้องการการสาธิตความปลอดภัยที่เข้มงวดมากขึ้น [5]
รุ่นปัจจุบันที่ดีที่สุดของมานุษยวิทยาอยู่ที่ ASL-2 [4] บริษัท กำหนดมาตรการกักกันและการปรับใช้สำหรับ ASL-2 และ ASL-3 และมุ่งมั่นที่จะกำหนดมาตรการความปลอดภัย ASL-4 ก่อนการฝึกอบรมแบบจำลอง ASL-3 [4] ASL-1 หมายถึงระบบที่ไม่มีความเสี่ยงภัยพิบัติที่มีความหมาย [5]
มานุษยวิทยายังลงทุนในความสามารถในการตีความกลไกซึ่งเกี่ยวข้องกับการผ่าและทำความเข้าใจการทำงานภายในของระบบ AI โดยเฉพาะอย่างยิ่งรูปแบบการเรียนรู้เชิงลึกในความพยายามที่จะทำให้พฤติกรรม AI คาดการณ์และเข้าใจได้มากขึ้น [5]
การอ้างอิง:
[1] https://www.prompthub.us/blog/using-anthropic-best-practices-parameters-and-large-windows-windows
[2] https://www.techrepublic.com/article/anthropic-claude-large-language-model-research/
[3] https://aizi.substack.com/p/comments-on-anthropics-scaling-monosemanticity
[4] https://ailabwatch.org/companies/anthropic/
[5] https://klu.ai/glossary/anthropic-ai
[6] https://help.promptitude.io/en/articles/8892919-UnderStanding-anthropic-models-a-simple-guide
[7] https://www.anthropic.com/news/anthropics-responsible-scaling-policy
[8] https://www.lesswrong.com/posts/vaopgqhfpdjca8ceh/anthropic-reflections-on-or-or-responsible-scaling-policy
-
-
-