Antropic zagotavlja varnost svojih modelov AI z različnimi tehnikami in politikami, vključno z odgovorno politiko skaliranja (RSP), AI varnosti (ASL), varnostnimi filtri in modeli zaznavanja [2] [5]. Varnost uporabnikov je osrednja za poslanstvo Anthropic za ustvarjanje zanesljivih, interpretabilnih in krmilnih sistemov AI [5].
Ključni varnostni ukrepi:
* Odgovorna politika skaliranja (RSP) Antropic je razvil RSP za obvladovanje tveganj, povezanih z vse bolj sposobnimi modeli AI [2]. Politika uvaja okvir, imenovan AI varnosti ravni (ASL), ki črpa navdih iz standardov biološke varnosti ameriške vlade (BSL), ki se uporabljajo za ravnanje z nevarnimi biološkimi materiali [2] [7]. RSP je uradno odobril odbor Antropic, morebitne spremembe pravilnika pa mora odobriti tudi odbor [2].
* AI varnosti (ASL) Okvir ASL je zasnovan tako, da zagotavljajo, da so varnost, varnost in operativni standardi primerni za potencial modela za katastrofalno tveganje [2] [7]. Višje ravni ASL zahtevajo strožje demonstracije varnosti [2]. Politika uravnoteži gospodarsko in družbeno vrednost AI s potrebo po ublažitvi hudih tveganj, zlasti katastrofalnih tveganj, ki bi lahko nastala zaradi namerne zlorabe ali nenamernega uničenega vedenja samih [2].
* Varnostni filtri Antropični uporabljajo varnostne filtre v pozivih, ki lahko blokirajo odzive iz modela, ko njihovo odkrivanje označujejo vsebino vsebine kot škodljivo [5]. Imajo tudi izboljšane varnostne filtre, ki jim omogočajo, da povečajo občutljivost svojih modelov zaznavanja [5]. Antropic lahko začasno uporabi izboljšane varnostne filtre za uporabnike, ki večkrat kršijo svoje politike, in te kontrole odstranijo po obdobju brez kršitve [5].
* Modeli zaznavanja Antropic uporablja modele odkrivanja, ki označujejo potencialno škodljive vsebine na podlagi njihove politike uporabe [5].
Dodatni zaščitni ukrepi:
* Osnovni zaščitni ukrepi Ti vključujejo shranjevanje ID -jev, povezanih z vsakim klicem API -ja, da natančno določite posebno kršilno vsebino in dodelijo ID -ji uporabnikom, da sledijo posameznikom, ki kršijo antropično AUP [1]. Prav tako zagotavljajo, da strankam razumejo dovoljene uporabe, in razmislijo, da od kupcev zahtevajo, da se na svoji platformi prijavijo na račun, preden uporabijo Claude [1].
* Vmesni zaščitni antropični ustvarjajo okvire za prilagajanje, ki omejujejo interakcije končnih uporabnikov s Claudom na omejen niz pozivov ali le omogočajo Claudeu, da pregleda določeno znanje, kar zmanjšuje sposobnost uporabnikov, da se vključijo v kršitveno vedenje [1]. Omogočajo tudi dodatne varnostne filtre, ki so brezplačno orodje za moderacijo v realnem času, ki ga je zgradil Anthropic za pomoč pri odkrivanju potencialno škodljivih pozivov in upravljanju ukrepov v realnem času, da zmanjšajo škodo [1].
* Napredni zaščitni ukrepi, ki vodijo zmerni API proti vsem pozivom končnih uporabnikov, preden jih pošljejo v Claude, zagotavljajo, da niso škodljivi [1].
* Obsežni zaščitni ukrepi Antropic nastavi notranji sistem za pregledovanje človeka, da označi pozive, ki jih Claude ali zmerni API zaznamuje kot škodljiv, zato lahko posredujejo, da omejijo ali odstranijo uporabnike z visokimi stopnjami kršitve [1].
Antropic je tudi zavezan zanesljivosti in interpretabilnosti svojih sistemov AI, doseženih s strogimi raziskavami in uporabo naprednih varnostnih tehnik [2]. Pomemben preboj interpretabilnosti je antropska uporaba redkih avtoenkoderjev za "monosemantično ekstrakcijo lastnosti", ki poenostavijo zapletene nevronske mreže v razumljive komponente [2].
Navedbe:
[1] https://support.anthropic.com/sl/articles/9199617-api-trust-safety-tools
[2] https://klu.ai/glossary/anthropic-ai
[3] https://myscale.com/blog/transformative-influence-anthropic-ai-safety---------measures/
[4] https://www.anthropic.com/news/frontier-model-security
[5] https://support.anthropic.com/sl/articles/8106465-our-approach-to-user-safety
[6] https://www.alignmentforum.org/posts/xhkr5ktvdjrssmej3/anthropic--core-eviews-on-ai-safety
[7] https://www.anthropic.com/news/anthropics-responsible-scaling-policy
[8] https://engineeringideas.substack.com/p/comments-on-anthropics-ai-safety
[9] https://www.youtube.com/watch?v=e6_x0Zoxvvi
[10] https://www.anthropic.com/news/core-views-on-ai-safety