Antropico garantisce la sicurezza e l'affidabilità dell'intelligenza artificiale attraverso diverse misure, tra cui test di stress, protocolli di sicurezza e una politica di ridimensionamento responsabile [1]. Utilizzano i livelli di sicurezza AI (ASL), modellati dopo livelli di biosicurezza, per determinare le misure di sicurezza in base a potenziali rischi [2] [3].
Componenti chiave dell'approccio di sicurezza di Antropic:
* La politica di ridimensionamento responsabile (RSP) antropico impiega un sistema di livelli di sicurezza AI (ASL) [3]. Se un sistema di intelligenza artificiale dimostra alcune capacità pericolose, l'antropico si impegna a non distribuirlo o ad addestrare modelli più potenti fino a quando non vengono implementate garanzie specifiche [3].
* Frequenti test antropici test spesso per capacità pericolose a intervalli regolari per garantire che le capacità pericolose non vengano create inconsapevolmente [3].
* Valutazioni del modello progettate per rilevare capacità pericolose, queste valutazioni fungono da "segnali di avvertimento conservatori" per impedire l'accidenza accidentale di soglie di sicurezza critiche [2]. Le valutazioni possono consistere in fasi di difficoltà multiple, in cui vengono eseguite fasi successive solo se le valutazioni precedenti mostrano segnali di avvertimento [2].
* Impegni procedurali Gli ASL specificano ciò che deve essere vero per i modelli e la sicurezza di Antropi per consentire una formazione e l'implementazione sicuri [2].
* Monitoraggio e registrazione: per l'utilizzo interno, le uscite generate e gli input corrispondenti vengono registrati e mantenuti per almeno 30 giorni. Questi registri sono monitorati per l'attività anormale e gli allarmi vengono presi sul serio e rispondono prontamente [2].
* Accesso a più livelli: in casi limitati, i modelli con capacità relativi al danno catastrofico possono essere disponibili per un gruppo selezionato di utenti controllati con un caso d'uso legittimo e benefico che non può essere separato da capacità pericolose, a condizione che l'accesso possa essere concesso in modo sicuro e con Sufficiente supervisione [2].
* Vulnerabilità e divulgazione degli incidenti: antropico si impegna in un processo di vulnerabilità e divulgazione degli incidenti con altri laboratori (soggetti a sicurezza o vincoli legali) che coprono i risultati della team rossa, le minacce alla sicurezza nazionale e le minacce autonome di replica [2].
* Risposta rapida alle vulnerabilità del modello: se informata di una vulnerabilità del modello appena scoperta che consente danni catastrofici, l'antropico si impegna a mitigarlo o patchar prontamente [2].
* Controllo a due parti: applicato a tutti i sistemi coinvolti nello sviluppo, nella formazione, nell'hosting e nello spiegamento dei modelli di AI di frontiera, ciò comporta una progettazione di sistema in cui nessuna singola persona ha un accesso persistente agli ambienti critici di produzione; Invece, devono richiedere un accesso limitato a tempo da un collega con una giustificazione aziendale [8].
* Caratteristiche di sicurezza degli utenti Questi includono modelli di rilevamento per contrassegnare contenuti potenzialmente dannosi, filtri di sicurezza sui prompt e filtri di sicurezza migliorati per gli utenti che violano ripetutamente le politiche [7].
Antropico utilizza anche modelli di rilevamento per contrassegnare il contenuto potenzialmente dannoso e i filtri di sicurezza sui prompt [7]. Stanno investendo attivamente e sperimentando ulteriori funzionalità di sicurezza e fornendo strumenti per mitigare i danni e incoraggiano gli utenti a fornire feedback su queste misure [7].
Citazioni:
[1] https://myscale.com/blog/transformative-influence-anthropopic-ai-safety-measures/
[2] https://www-cdn.anthropopic.com/1adf000c8f675958c2ee23805d91aaade1cd4613/responsible-scaling-policy.pdf
[3] https://www.anthropic.com/news/uk-ai-safety-summit
[4] https://ackcelerationeconomy.com/ai/anthropopic-leads-the-chage-in-ai-safety-and-performance/
[5] https://www.anthropic.com/news/core-views-on-ai-safety
[6] https://engineeringideas.substack.com/p/comments-on-anthropics-ai-safety
[7] https://support.anthropic.com/en/articles/8106465-our-approach-to-user-safety
[8] https://www.anthropic.com/news/frontier-model-security