GPT-4,5 wurde aufgrund seiner Wirksamkeit bei der Minderung von Risiken im Zusammenhang mit chemischen, biologischen, radiologischen und nuklearen (CBRN) Bedrohungen und Überzeugungsarbeit bewertet. Hier finden Sie einen detaillierten Überblick über seine Fähigkeiten und Minderungen:
CBRN -Risiken
GPT-4,5 wird als mittelgroßes Risiko für CBRN-Bedrohungen eingestuft. Diese Klassifizierung basiert auf Bewertungen, die die Fähigkeit des Modells beurteilen, bei der operativen Planung bekannter biologischer Bedrohungen zu helfen. Dieses Risiko wird jedoch als begrenzt angesehen, da es in erster Linie Experten bei der AIDS -Experten, die bereits über ein erhebliches Domänen -Expertise verfügen, [1] hilft.
Um CBRN-Risiken zu mildern, verwendet GPT-4,5 mehrere Strategien:
. Dies hilft, die Exposition des Modells gegenüber potenziell gefährlichen Informationen zu verringern [1].
.
- Überwachung und Erkennung: Es werden spezielle Anstrengungen unternommen, um Aktivitäten im Zusammenhang mit CBRN -Aufgaben zu überwachen und zu erkennen, um sicherzustellen, dass jeder Missbrauch schnell identifiziert und behandelt wird [1].
Überzeugungsrisiken
GPT-4,5 trägt auch eine mittelgroße Risikobezeichnung für die Überzeugung. Dies liegt an seiner hochmodernen Leistung bei der Erzeugung überzeugender Inhalte, die verwendet werden könnten, um Überzeugungen oder Handlungen zu manipulieren [2].
Um Überzeugungsrisiken zu beheben, enthält GPT-4,5 die folgenden Minderungen:
- Sicherheitstraining: Das Modell unterzieht sich einer spezifischen Schulung, um die politischen Überzeugungsaufgaben verantwortungsbewusst zu erledigen, um den Missbrauch der öffentlichen Meinung zu verhindern [1].
- Überwachung der Einflussoperationen: Die Überwachung und Untersuchung von mutmaßlichen Missbräuchen im Zusammenhang mit Einfluss von Operationen, Extremismus und unsachgemäßen politischen Aktivitäten. Dies hilft, potenzielle Überzeugungsrisiken zu identifizieren und zu mildern [1].
- Überzeugungsbewertungen überdenken: OpenAI bewertet seinen Ansatz zur Beurteilung der realen Überzeugungsrisiken und konzentriert sich auf Faktoren wie Personalisierung, Verteilung und Präsentation im Laufe der Zeit [2].
Während GPT-4,5 mittelgroße Risiken sowohl für CBRN als auch für die Überzeugung aufweist, verwendet es eine robuste Reihe von Minderungen, um diese Risiken zu minimieren. Dazu gehören erweiterte Filterung, Sicherheitstraining und kontinuierliche Überwachung, um sicherzustellen, dass das Modell verantwortungsbewusst und sicher verwendet wird.
Zitate:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://assets.ctfassets.net/kftzwdyauwt9/7eadv6oawhhxlaehuyu7db/64e9f7916d3581ba4b5d0f0a6c5098d1/GPT-4-5_System_CARD_2272025.PDF
[3] https://centerforhealthsecurity.org/sites/default/files/2024-06/2024-06-02-jhchs-nist-ai-6001-rfc.pdf
[4] https://modelspec.openai.com
[5] https://www.reddit.com/r/chatgpt/comments/1iznoek/gpt45_system_card_mmlu_896/
[6] https://pmc.ncbi.nlm.nih.gov/articles/pmc10795998/
[7] https://openai.com/index/gpt-4-5-System-card/
[8] https://patriciestoso.com/2024/05/21/openai-chatgpt-4o-the-good-the-bad-the-responsible/