Anthropic gewährleistet die Sicherheit und Zuverlässigkeit von KI durch verschiedene Maßnahmen, einschließlich Stresstests, Sicherheitsprotokolle und einer verantwortungsbewussten Skalierungspolitik [1]. Sie nutzen die Sicherheitsniveaus (ASL) der AI, die nach biologischen Sicherheitsniveaus modelliert sind, um Sicherheitsmaßnahmen basierend auf potenziellen Risiken zu bestimmen [2] [3].
Schlüsselkomponenten des Sicherheitsansatzes von Anthropic:
* Anthropic (Responsible Scaling Policy (RSP) verwendet ein System der AI -Sicherheitsniveaus (ASL) [3]. Wenn ein KI -System bestimmte gefährliche Fähigkeiten demonstriert, verpflichtet sich anthropisch, es nicht bereitzustellen oder leistungsfähigere Modelle zu schulen, wenn bestimmte Schutzmaßnahmen implementiert sind [3].
* In regelmäßigen Abständen häufige anthropische Tests auf gefährliche Fähigkeiten, um sicherzustellen, dass gefährliche Fähigkeiten nicht unwissentlich erzeugt werden [3].
* Modellbewertungen zur Erkennung gefährlicher Fähigkeiten dienen als konservative "Warnzeichen", um zu verhindern, dass die kritischen Sicherheitsschwellen versehentlich überschritten werden [2]. Bewertungen können aus mehreren Schwierigkeitsgründen bestehen, in denen spätere Stadien nur ausgeführt werden, wenn frühere Bewertungen Warnzeichen zeigen [2].
* Verfahrensverpflichtungen Die ASLs geben an, was für die Modelle und die Sicherheit von Anthropic zutreffen muss, um eine sichere Schulung und Bereitstellung zu ermöglichen [2].
* Überwachung und Protokollierung: Für die interne Verwendung werden erzeugte Ausgänge und entsprechende Eingänge mindestens 30 Tage lang protokolliert und aufbewahrt. Diese Protokolle werden auf abnormale Aktivitäten überwacht, und Alarme werden ernst genommen und aufgehend reagiert [2].
* Stufener Zugriff: In begrenzten Fällen können Modelle mit Funktionen, die für katastrophalen Schaden relevant sind ausreichende Aufsicht [2].
* Anfälligkeit und Offenlegung von Vorfällen: Anthropic führt einen Anfälligkeits- und Offenlegungsprozess mit anderen Labors (vorbehaltlich von Sicherheits- oder rechtlichen Einschränkungen), die die Ergebnisse von Rotteams, nationalen Sicherheitsbedrohungen und autonome Replikationsbedrohungen abdecken [2].
* Schnelle Reaktion auf Modellschwachstellen: Wenn sie über ein neu entdecktes Modell -Sicherheitsanfälligkeit informiert sind, das katastrophalen Schaden ermöglicht, verpflichtet sich anthropische, es sofort zu mildern oder zu pflücken [2].
* Zwei-Parteien-Steuerung: Angewendet auf alle Systeme, die an der Entwicklung, Schulung, Hosting und Bereitstellung von Frontier-KI-Modellen beteiligt sind, beinhaltet dies ein Systemdesign, bei dem keine einzelne Person einen anhaltenden Zugang zu produktionskritischen Umgebungen hat. Stattdessen müssen sie einen zeitlich begrenzten Zugriff von einem Kollegen mit einer geschäftlichen Begründung anfordern [8].
* Benutzersicherheitsfunktionen Dies umfassen Erkennungsmodelle, um potenziell schädliche Inhalte zu markieren, Sicherheitsfilter bei Eingabeaufforderungen und erweiterte Sicherheitsfilter für Benutzer, die wiederholt gegen Richtlinien verstoßen [7].
Anthropic verwendet auch Erkennungsmodelle, um potenziell schädliche Inhalts- und Sicherheitsfilter bei Eingabeaufforderungen zu kennzeichnen [7]. Sie investieren aktiv in und experimentieren mit zusätzlichen Sicherheitsmerkmalen und bieten Tools zur Minderung von Schaden und ermutigen Benutzer, Feedback zu diesen Maßnahmen zu geben [7].
Zitate:
[1] https://myscale.com/blog/transformative-influence-anthropic-ai-safety-maseures/
[2] https://www-cdn.anthropic.com/1adf000c8f675958c2ee23805d91aaade1cd4613/responsible-scaling-policy.pdf
[3] https://www.anthropic.com/news/uk-ai-safety-summit
[4] https://accelerationeconomy.com/ai/anthropic-leads-the-charch-in-ai-safety-and-performance/
[5] https://www.anthropic.com/news/core-views-on-ai-safety
[6] https://engineeringideas.substack.com/p/comment-on-anthropics-ai-safety
[7] https://support.anthropic.com/en/articles/8106465-our-uploach-to-us-safety
[8] https://www.anthropic.com/news/frontier-model-security