Anthropic sikrer sikkerheden for sine AI -modeller gennem en række teknikker og politikker, herunder den ansvarlige skaleringspolitik (RSP), AI -sikkerhedsniveauer (ASL), sikkerhedsfiltre og detektionsmodeller [2] [5]. Brugersikkerhed er central for Anthropics mission om at skabe pålidelige, fortolkbare og styrbare AI -systemer [5].
Nøglesikkerhedsforanstaltninger:
* Ansvarlig skaleringspolitik (RSP) antropisk udviklede RSP til at styre risici, der er knyttet til stadig mere dygtige AI -modeller [2]. Politikken introducerer en ramme kaldet AI Safety Niveauer (ASL), der henter inspiration fra den amerikanske regerings biosikkerhedsniveau (BSL) standarder, der bruges til håndtering af farlige biologiske materialer [2] [7]. RSP er formelt godkendt af Anthropic's bestyrelse, og eventuelle ændringer i politikken skal også godkendes af bestyrelsen [2].
* AI Sikkerhedsniveauer (ASL) ASL -rammen er designet til at sikre, at sikkerhed, sikkerhed og operationelle standarder er passende til en model's potentiale for katastrofal risiko [2] [7]. Højere ASL -niveauer kræver strengere demonstrationer af sikkerhed [2]. Politikken afbalancerer den økonomiske og sociale værdi af AI med behovet for at afbøde alvorlige risici, især katastrofale risici, der kan opstå som følge af bevidst misbrug eller utilsigtet destruktiv adfærd fra modellerne selv [2].
* Sikkerhedsfiltre antropiske bruger sikkerhedsfiltre på promp, som kan blokere svar fra modellen, når deres detektionsmodeller flagindholdet som skadeligt [5]. De har også forbedret sikkerhedsfiltre, som giver dem mulighed for at øge følsomheden af deres detektionsmodeller [5]. Antropisk kan midlertidigt anvende forbedrede sikkerhedsfiltre til brugere, der gentagne gange overtræder deres politik, og fjerner disse kontroller efter en periode på ingen eller få overtrædelser [5].
* Detektionsmodeller antropisk bruger detektionsmodeller, der flagner potentielt skadeligt indhold baseret på deres brugspolitik [5].
Yderligere beskyttelsesforanstaltninger:
* Grundlæggende beskyttelsesforanstaltninger Disse inkluderer lagring af ID'er, der er knyttet til hvert API -opkald for at finde ud af specifikt krænkelsesindhold og tildele ID'er til brugere til at spore enkeltpersoner, der krænker antropiske, aup [1]. De sikrer også, at kunderne forstår tilladte anvendelser og overvejer at kræve, at kunder tilmelder sig en konto på deres platform, før de bruger Claude [1].
* Mellemliggende beskyttelsesantropiske skaber tilpasningsrammer, der begrænser slutbrugerinteraktioner med Claude til et begrænset sæt anvisninger eller kun giver Claude mulighed for at gennemgå et specifikt videnscorpus, hvilket reducerer brugernes evne til at engagere sig i krænkende adfærd [1]. De muliggør også yderligere sikkerhedsfiltre, som er gratis realtidsmoderationsværktøj bygget af antropisk til at hjælpe med at opdage potentielt skadelige prompter og håndtere realtidshandlinger for at reducere skade [1].
* Avancerede beskyttelsesforanstaltninger, der kører en moderation API mod alle slutbrugeropskrivninger, før de sendes til Claude sikrer, at de ikke er skadelige [1].
* Omfattende beskyttelse antropiske opstiller et internt menneskeligt gennemgangssystem til markeringspersoner, der er præget af Claude eller en moderations -API som skadelig, så de kan gribe ind for at begrænse eller fjerne brugere med høje overtrædelsesgrad [1].
Antropisk er også forpligtet til pålideligheden og fortolkbarheden af dets AI -systemer, opnået gennem streng forskning og anvendelsen af avancerede sikkerhedsteknikker [2]. Et betydeligt gennembrud i tolkbarhed er antropisk brug af sparsom autoencodere til 'monosemantisk funktionsekstraktion', som forenkler komplekse neurale netværk til forståelige komponenter [2].
Citater:
[1] https://support.anthropic.com/en/articles/9199617-api-trust-safety-tools
[2] https://klu.ai/glossary/anthropic-i
)
[4] https://www.anthropic.com/news/frontier-model-security
)
[6] https://www.alignmentforum.org/posts/xhkr5ktvdjrssmej3/anthropic-core-views-on-i-safety
[7] https://www.anthropic.com/news/anthropics-responsible-scaling-policy
[8] https://engineeringideas.substack.com/p/comments-on-antropics-i-safety
[9] https://www.youtube.com/watch?v=e6_x0zoxvvi
[10] https://www.anthropic.com/news/core-views-on-i-safety