Anthropic säkerställer AI -säkerhet och tillförlitlighet genom flera åtgärder, inklusive stresstestning, säkerhetsprotokoll och en ansvarsfull skalningspolicy [1]. De använder AI -säkerhetsnivåer (ASL), modellerade efter biosäkerhetsnivåer, för att bestämma säkerhetsåtgärder baserade på potentiella risker [2] [3].
Nyckelkomponenter i Anthropics säkerhetsstrategi:
* Ansvarig skalningspolicy (RSP) Anthropic använder ett system med AI -säkerhetsnivåer (ASL) [3]. Om ett AI -system visar vissa farliga förmågor, åtar sig antropiska att inte distribuera det eller utbilda mer kraftfulla modeller tills specifika skyddsåtgärder implementeras [3].
* Ofta testar antropiska tester ofta för farliga kapaciteter med jämna mellanrum för att säkerställa att farliga kapaciteter inte skapas omedvetet [3].
* Modellutvärderingar som är utformade för att upptäcka farliga förmågor, dessa utvärderingar fungerar som konservativa "varningstecken" för att förhindra att de av misstag överstiger kritiska säkerhetsgränser [2]. Utvärderingar kan bestå av flera svårighetssteg, där senare stadier endast körs om tidigare utvärderingar visar varningstecken [2].
* Proceduråtaganden ASL: erna specificerar vad som måste vara sant för Anthropics modeller och säkerhet för att möjliggöra säker utbildning och distribution [2].
* Övervakning och loggning: För intern användning loggas genererade utgångar och motsvarande ingångar och behålls i minst 30 dagar. Dessa stockar övervakas för onormal aktivitet, och larm tas på allvar och svaras på snabbt [2].
* Tiered Access: I begränsade fall kan modeller med kapacitet som är relevanta för katastrofisk skada vara tillgängliga för en utvald grupp av vettade användare med ett legitimt och gynnsamt användningsfall som inte kan separeras från farliga kapaciteter, förutsatt att åtkomst kan beviljas säkert och med med Tillräcklig övervakning [2].
* Sårbarhet och avslöjande av händelser: Antropisk bedriver en sårbarhet och inlämnande av händelser med andra laboratorier (med förbehåll för säkerhet eller juridiska begränsningar) som täcker resultat med röda team, nationella säkerhetshot och autonoma replikationshot [2].
* Snabbt svar på modellsårbarheter: När den informeras om en nyupptäckt modellsårbarhet som möjliggör katastrofisk skada, åtar sig antropiska att mildra eller lappa den snabbt [2].
* Tvåpartikontroll: Tillämpas på alla system som är involverade i utveckling, utbildning, värd och distribution av Frontier AI-modeller, detta innebär en systemdesign där ingen enda person har ihållande tillgång till produktionskritiska miljöer; Istället måste de begära tidsbegränsad åtkomst från en kollega med en affärsmässiga motivering [8].
* Användarsäkerhetsfunktioner Dessa inkluderar detekteringsmodeller för att flagga potentiellt skadligt innehåll, säkerhetsfilter på instruktioner och förbättrade säkerhetsfilter för användare som upprepade gånger bryter mot policyer [7].
Anthropic använder också detekteringsmodeller för att flagga potentiellt skadligt innehåll och säkerhetsfilter på instruktioner [7]. De investerar aktivt i och experimenterar med ytterligare säkerhetsfunktioner och tillhandahåller verktyg för att mildra skada, och de uppmuntrar användare att ge feedback om dessa åtgärder [7].
Citeringar:
[1] https://myscale.com/blog/transformative-influence-anthropic-ai-safety-measures/
]
[3] https://www.antropic.com/news/uk-ai-safety-summit
]
[5] https://www.antropic.com/news/core-views-on-ai-safety
[6] https://engineeringideas.substack.com/p/comments-on-antropics-ai-safety
[7] https://support.antropic.com/en/articles/8106465-our-approach-to-user-safety
[8] https://www.antropic.com/news/frontier-model-security