Anthropic zorgt voor AI -veiligheid en betrouwbaarheid door verschillende maatregelen, waaronder stresstests, veiligheidsprotocollen en een verantwoord schaalvoordelen [1]. Ze gebruiken AI -veiligheidsniveaus (ASL), gemodelleerd naar bioveiligheidsniveaus, om veiligheidsmaatregelen te bepalen op basis van potentiële risico's [2] [3].
Belangrijkste componenten van de veiligheidsbenadering van Anthropic:
* Anthropic Anthropic verantwoorde schaalbeleid (RSP) maakt gebruik van een systeem van AI -veiligheidsniveaus (ASL) [3]. Als een AI -systeem bepaalde gevaarlijke capaciteiten aantoont, verbindt antropische verbindingen het niet in te zetten of krachtigere modellen te trainen totdat specifieke waarborgen zijn geïmplementeerd [3].
* Frequent testen Anthropische tests regelmatig voor gevaarlijke mogelijkheden met regelmatige intervallen om ervoor te zorgen dat gevaarlijke mogelijkheden niet onbewust worden gecreëerd [3].
* Modelevaluaties die zijn ontworpen om gevaarlijke mogelijkheden te detecteren, fungeren deze evaluaties als conservatieve "waarschuwingssignalen" om per ongeluk meer dan kritieke veiligheidsdrempels te voorkomen [2]. Evaluaties kunnen bestaan uit meerdere moeilijkheidsgraden, waarbij latere fasen alleen worden uitgevoerd als eerdere evaluaties waarschuwingssignalen tonen [2].
* Procedurele verplichtingen De ASL's specificeren wat moet gelden voor de modellen en beveiliging van Anthropic om veilige training en implementatie mogelijk te maken [2].
* Monitoring en logboekregistratie: voor intern gebruik worden gegenereerde uitgangen en overeenkomstige ingangen vastgelegd en gedurende ten minste 30 dagen bewaard. Deze logboeken worden gecontroleerd op abnormale activiteit en alarmen worden serieus genomen en onmiddellijk gereageerd [2].
* Gelaagde toegang: in beperkte gevallen kunnen modellen met mogelijkheden die relevant zijn voor catastrofale schade beschikbaar zijn voor een geselecteerde groep doorgelichte gebruikers met een legitieme en nuttige use-case die niet kan worden gescheiden van gevaarlijke mogelijkheden, op voorwaarde dat toegang veilig kan worden verleend en met voldoende toezicht [2].
* Kwetsbaarheid en openbaarmaking van incidenten: Anthropic houdt zich bezig met een kwetsbaarheid en incident dat openbaarmakingsproces met andere laboratoria (onderworpen aan beveiligings- of wettelijke beperkingen) die rood-teamresultaten, bedreigingen op de nationale veiligheid en autonome replicatiebedreigingen omvat [2].
* Snelle reactie op modelkwetsbaarheden: wanneer geïnformeerd over een nieuw ontdekte modelkwetsbaarheid die catastrofale schade mogelijk maakt, verbindt antropische verbindingen het om dit snel te verminderen of te patchen [2].
* Tweede partijbesturing: toegepast op alle systemen die betrokken zijn bij de ontwikkeling, training, hosting en implementatie van Frontier AI-modellen, dit omvat een systeemontwerp waarbij geen enkele persoon aanhoudende toegang heeft tot productiekritieke omgevingen; In plaats daarvan moeten ze tijd beperkte toegang van een collega aanvragen met een zakelijke rechtvaardiging [8].
* Gebruikersveiligheidsfuncties Deze omvatten detectiemodellen om mogelijk schadelijke inhoud, veiligheidsfilters op prompts te markeren en verbeterde veiligheidsfilters voor gebruikers die herhaaldelijk beleid schenden [7].
Anthropic gebruikt ook detectiemodellen om mogelijk schadelijke inhoud en veiligheidsfilters op aanwijzingen te markeren [7]. Ze investeren actief in en experimenteren met aanvullende veiligheidsfuncties en bieden hulpmiddelen om schade te verminderen, en ze moedigen gebruikers aan om feedback over deze maatregelen te geven [7].
Citaten:
[1] https://myscale.com/blog/transformatief-fluence-antropic-ai-safety-mesures/
[2] https://www-cdn.anthropic.com/1ADF000C8F675958C2EE23805D91AAADE1CD4613/Responsible-Scaling-policy.pdf
[3] https://www.antropic.com/news/uk-ai-safety-summit
[4] https://accelerationeconomy.com/ai/anthropic-lads-the-arge-in-ai-safety-and-performance/
[5] https://www.antropic.com/news/core-views-on-ai-safety
[6] https://engineeringideas.substack.com/p/comments-on-anthropics-ai-safety
[7] https://support.anthropic.com/en/articles/8106465-our-acoach-to-user-safety
[8] https://www.antropic.com/news/frontier-model-security