Anthropic gewährleistet die Sicherheit seiner KI -Modelle durch eine Vielzahl von Techniken und Richtlinien, einschließlich der verantwortlichen Skalierungsrichtlinie (RSP), AI -Sicherheitsniveaus (ASL), Sicherheitsfilter und Erkennungsmodellen [2] [5]. Benutzersicherheit ist von zentraler Bedeutung für die Mission von Anthropic, zuverlässige, interpretierbare und lenkbare KI -Systeme zu erstellen [5].
Wichtige Sicherheitsmaßnahmen:
* Anthropic (Responsible Scaling Policy (RSP)) entwickelte die RSP, um Risiken zu verwalten, die mit zunehmend fähigen KI -Modellen verbunden sind [2]. Die Richtlinie führt ein Rahmen ein, das als AI Safety Levels (ASL) bezeichnet wird und sich von den BSL -Standards (Biosafety Level) der US -Regierung inspirieren lässt, die zum Umgang mit gefährlichen biologischen Materialien verwendet werden [2] [7]. Der RSP wurde vom Vorstand von Anthropic offiziell genehmigt, und alle Änderungen an der Richtlinie müssen auch vom Vorstand genehmigt werden [2].
* AI -Sicherheitsniveaus (ASL) Das ASL -Framework soll sicherstellen, dass Sicherheits-, Sicherheits- und Betriebsstandards dem Potenzial eines Modells für katastrophales Risiko angemessen sind [2] [7]. Höhere ASL -Niveaus erfordern strengere Sicherheitsdemonstrationen [2]. Die Politik gleicht den wirtschaftlichen und sozialen Wert von KI mit der Notwendigkeit aus, schwere Risiken zu mildern, insbesondere katastrophale Risiken, die durch absichtliche Missbrauch oder unbeabsichtigte zerstörerische Verhaltensweisen durch die Modelle selbst entstehen könnten [2].
* Sicherheitsfilter anthropisch verwendet Sicherheitsfilter bei Eingabeaufforderungen, die die Antworten aus dem Modell blockieren können, wenn ihre Erkennungsmodelle den Inhalt als schädlich finden [5]. Sie haben auch verbesserte Sicherheitsfilter, die es ihnen ermöglichen, die Empfindlichkeit ihrer Erkennungsmodelle zu erhöhen [5]. Anthropic kann vorübergehend erweiterte Sicherheitsfilter auf Benutzer anwenden, die wiederholt gegen ihre Richtlinien verstoßen, und diese Steuerelemente nach einer Zeit mit keinen oder wenigen Verstößen entfernen [5].
* Erkennungsmodelle Anthropic verwendet Erkennungsmodelle, die potenziell schädliche Inhalte basierend auf ihrer Nutzungsrichtlinie kennzeichnen [5].
Zusätzliche Schutzmaßnahmen:
* Grundlegende Sicherheitsvorkehrungen umfassen das Speichern von IDs, die mit jedem API -Aufruf verknüpft sind, um spezifische Verstoßkörperinhalte zu bestimmen, und das Zuweisen von IDs an Benutzer, um Personen zu verfolgen, die gegen Anthropics AUP verstoßen [1]. Sie stellen auch sicher, dass Kunden die zulässigen Verwendungszwecke verstehen und die Kunden in Betracht ziehen, sich für ein Konto auf ihrer Plattform anzumelden, bevor sie Claude [1] verwenden.
* Intermediate SafeGuards Anthropic erstellt Anpassungsrahmen, die Endbenutzerinteraktionen mit Claude auf eine begrenzte Reihe von Eingabeaufforderungen beschränken, oder ermöglichen es Claude nur, ein spezifisches Wissenskorpus zu überprüfen, wodurch die Fähigkeit von Benutzern verringert wird, ein Verhalten zu verhalten [1]. Sie ermöglichen auch zusätzliche Sicherheitsfilter, bei denen es sich um kostenlose Echtzeit-Moderationsinstrumente handelt, die von Anthropic erstellt wurden, um potenziell schädliche Aufforderungen zu erkennen und Echtzeitmaßnahmen zu verwalten, um den Schaden zu verringern [1].
* Fortgeschrittene Schutzmaßnahmen, die eine Moderations-API gegen alle Endbenutzeraufforderungen ausführen, bevor sie an Claude gesendet werden, stellt sicher, dass sie nicht schädlich sind [1].
* Umfassende Anthropic Safeguards forsiert ein internes menschliches Überprüfungssystem, um Eingaben zu markieren, die von Claude oder einer Moderations -API als schädlich gekennzeichnet sind, damit sie eingreifen können, um Benutzer mit hohen Verstoßraten einzuschränken oder zu entfernen [1].
Anthropic ist auch der Zuverlässigkeit und Interpretierbarkeit seiner KI -Systeme verpflichtet, die durch strenge Forschung und die Anwendung fortschrittlicher Sicherheitstechniken erreicht werden [2]. Ein signifikanter Durchbruch in der Interpretierbarkeit ist die Verwendung von spärlichen Autoencodern durch Anthropic für die „monosemantische Merkmalextraktion“, die komplexe neuronale Netzwerke zu verständlichen Komponenten vereinfacht [2].
Zitate:
[1] https://support.anthropic.com/en/articles/9199617-api-trust-safety-tools
[2] https://klu.ai/glosary/anthropic-ai
[3] https://myscale.com/blog/transformative-influence-anthropic-ai-safety-maseures/
[4] https://www.anthropic.com/news/frontier-model-security
[5] https://support.anthropic.com/en/articles/8106465-our-uploach-to-us-ser-safety
[6] https://www.alignmentforum.org/posts/xhkr5ktvdjrssmej3/anthropic-core-views-on-ai-safety
[7] https://www.anthropic.com/news/anthropics-responsible-scaling-policy
[8] https://engineeringideas.substack.com/p/comment-on-anthropics-ai-safety
[9] https://www.youtube.com/watch?v=E6_X0ZOXVVI
[10] https://www.anthropic.com/news/core-views-on-ai-safety