Antropinen varmistaa AI -malliensa turvallisuuden monien tekniikoiden ja politiikkojen, mukaan lukien vastuullinen skaalauspolitiikka (RSP), AI -turvallisuustasot (ASL), turvallisuussuodattimet ja havaitsemismallit [2] [5]. Käyttäjäturvallisuus on keskeistä antropian tehtävässä luoda luotettavia, tulkittavissa olevia ja ohjattavia AI -järjestelmiä [5].
Tärkeimmät turvallisuustoimet:
* Vastuullinen skaalauspolitiikka (RSP) Antropic kehitti RSP: n hallitakseen yhä kykenevämpiin AI -malleihin liittyviä riskejä [2]. Politiikka esittelee AI -turvallisuustasot (ASL) nimeltään inspiraatiota Yhdysvaltain hallituksen bioturvallisuustason (BSL) standardeista, joita käytetään vaarallisten biologisten materiaalien käsittelemiseen [2] [7]. Antropisin hallitus on virallisesti hyväksynyt RSP: n virallisesti, ja hallituksen on myös hyväksyttävä kaikki muutokset politiikkaan [2].
* AI -turvatasot (ASL) ASL -kehys on suunniteltu varmistamaan, että turvallisuus-, turvallisuus- ja toimintastandardit ovat sopivia mallin potentiaalille katastrofaaliseen riskiin [2] [7]. Korkeammat ASL -tasot vaativat tiukempia turvallisuuden osoituksia [2]. Politiikka tasapainottaa AI: n taloudellista ja sosiaalista arvoa tarpeen lieventää vakavia riskejä, etenkin katastrofaalisia riskejä, jotka voivat johtua mallin itse tarkoituksellisesta väärinkäytöstä tai tahattomasta tuhoavasta käytöksestä [2].
* Turvasuodattimet Antropiset käyttävät kehotusten turvasuodattimia, jotka saattavat estää mallin vastauksia, kun niiden havaitsemismallit ovat haitallisena [5]. Heillä on myös parannettuja turvasuodattimia, joiden avulla he voivat lisätä havaitsemismalliensa herkkyyttä [5]. Antropia voi väliaikaisesti soveltaa parannettuja turvasuodattimia käyttäjiin, jotka rikkovat toistuvasti politiikkaansa, ja poistaa nämä säätimet ilman tai muutaman rikkomuksen jälkeen [5].
* Tunnistusmallit Antropiset hyödyntävät havaitsemismalleja, jotka merkitsevät mahdollisesti haitallista sisältöä niiden käyttöpolitiikan perusteella [5].
Lisäsuojat:
* Perussuojatoimenpiteet Näihin sisältyy jokaiseen sovellusliittymäpuheluun linkitettyjen tunnusten tallentaminen tiettyjen rikkomus sisältöjen määrittämiseksi ja käyttäjille tunnisteiden määrittäminen seuraamaan henkilöitä, jotka rikkovat antropisia AUP: ta [1]. He varmistavat myös, että asiakkaat ymmärtävät sallitut käytöt ja harkitsevat asiakkaiden vaatimista ilmoittautumaan tilinsä alustalle ennen CLAUDE: n käyttöä [1].
* Väliaikaiset suojatoimenpiteet Antropiset luovat räätälöintikehyksiä, jotka rajoittavat loppukäyttäjän vuorovaikutusta Claude: n kanssa rajoitetulle kehotukselle tai sallivat vain Claude: n tarkistaa tiettyä tietokorpusta, mikä vähentää käyttäjien kykyä harjoittaa rikkomista käyttäytymiseen [1]. Ne mahdollistavat myös ylimääräisiä turvallisuussuodattimia, jotka ovat ilmaisia reaaliaikaisia maltillisuustyökaluja, jotka antropia on rakentanut auttamaan havaitsemaan mahdollisesti haitallisia kehotuksia ja hallitsemaan reaaliaikaisia toimenpiteitä vahingon vähentämiseksi [1].
* Edistyneet suojatoimenpiteet, jotka käyttävät maltillisuussovellusliittymää kaikkia loppukäyttäjäkehotuksia vastaan, ennen kuin ne lähetetään Claudelle, varmistaa, että ne eivät ole haitallisia [1].
* Kattavat suojatoimenpiteet Antropiset asettavat sisäisen ihmisen tarkistusjärjestelmän liputtamaan kehotteita, jotka ovat Claude -leimattua tai maltillisuussovellusliittymää haitallisiksi, jotta ne voivat puuttua käyttäjien rajoittamiseen tai poistamiseen korkealla rikkomusasteella [1].
Antropinen on myös sitoutunut AI -järjestelmien luotettavuuteen ja tulkittavuuteen, joka saavutetaan tiukalla tutkimuksella ja edistyneiden turvallisuustekniikoiden soveltamisella [2]. Merkittävä tulkittavuuden läpimurto on Antropicin harvojen autoenkooderien käyttö 'monosemanttisen ominaisuuksien uuttamiseen', mikä yksinkertaistaa monimutkaisia hermoverkkoja ymmärrettäviksi komponenteiksi [2].
Viittaukset:
[1] https://support.anthropic.com/en/articles/9199617-api-trust-safety-tools
[2] https://klu.ai/glossary/anthropic-ai
.
[4] https://www.anthropic.com/news/frontier-model-security
[5] https://support.anthropic.com/en/articles/8106465-our-approach-to-user-Safety
.
[7] https://www.anthropic.com/news/anthropics-responsible-scaling-policy
[8] https://engineeringideas.substack.com/p/comments-on-anthropics-ai-Safety
[9] https://www.youtube.com/watch?v=E6_X0ZOXVVI
[10] https://www.anthropic.com/news/core-views-on-ai-safety