Antropico garantisce la sicurezza dei suoi modelli AI attraverso una varietà di tecniche e politiche, tra cui la politica di ridimensionamento responsabile (RSP), i livelli di sicurezza AI (ASL), i filtri di sicurezza e i modelli di rilevamento [2] [5]. La sicurezza dell'utente è fondamentale per la missione di Antropico di creare sistemi AI affidabili, interpretabili e derogabili [5].
Misure di sicurezza chiave:
* La politica di ridimensionamento responsabile (RSP) antropico ha sviluppato RSP per gestire i rischi legati a modelli AI sempre più capaci [2]. La politica introduce un framework chiamato AI Safety Livels (ASL), trarre ispirazione dagli standard di livello di biosicurezza (BSL) del governo degli Stati Uniti che vengono utilizzati per gestire materiali biologici pericolosi [2] [7]. L'RSP è stato formalmente approvato dal consiglio di amministrazione di Antropico e qualsiasi modifica alla politica deve essere approvata anche dal consiglio di amministrazione [2].
* Livelli di sicurezza AI (ASL) Il framework ASL è progettato per garantire che gli standard di sicurezza, sicurezza e operativi siano appropriati al potenziale di un modello di rischio catastrofico [2] [7]. Livelli ASL più elevati richiedono dimostrazioni più rigorose di sicurezza [2]. La politica bilancia il valore economico e sociale dell'IA con la necessità di mitigare i rischi gravi, in particolare i rischi catastrofici che potrebbero derivare da un uso improprio deliberato o comportamenti distruttivi non intenzionali da parte dei modelli stessi [2].
* I filtri di sicurezza antropici utilizzano filtri di sicurezza sui prompt, che possono bloccare le risposte dal modello quando i loro modelli di rilevamento flagano il contenuto come dannoso [5]. Hanno anche filtri di sicurezza migliorati, che consentono loro di aumentare la sensibilità dei loro modelli di rilevamento [5]. L'antropico può applicare temporaneamente filtri di sicurezza migliorati agli utenti che violano ripetutamente le loro politiche e rimuovere questi controlli dopo un periodo di no o poche violazioni [5].
* I modelli di rilevamento antropici utilizzano modelli di rilevamento che segnalano contenuti potenzialmente dannosi in base alla loro politica di utilizzo [5].
SAPEGUARDE ALTRIMENTE:
* Le salvaguardie di base Includono l'archiviazione di ID collegati ad ogni chiamata API per individuare specifici contenuti violativi e assegnare ID agli utenti per tracciare le persone che violano l'AUP antropico [1]. Assicurano inoltre che i clienti comprendano gli usi consentiti e prendono in considerazione la possibilità di iscriversi a un account sulla loro piattaforma prima di utilizzare Claude [1].
* Le salvaguardie intermedie antropiche crea quadri di personalizzazione che limitano le interazioni dell'utente finale con Claude a una serie limitata di istruzioni o consentono a Claude di rivedere un corpus di conoscenza specifico, diminuendo la capacità degli utenti di impegnarsi in comportamenti violativi [1]. Consentono inoltre ulteriori filtri di sicurezza, che sono strumenti di moderazione in tempo reale gratuiti costruiti da antropici per aiutare a rilevare istruzioni potenzialmente dannose e gestire le azioni in tempo reale per ridurre i danni [1].
* Le salvaguardie avanzate che eseguono un'API di moderazione contro tutti i suggerimenti per utenti finali prima di essere inviati a Claude assicurano che non siano dannosi [1].
* Le salvaguardie complete antropiche impostano un sistema di revisione umana interna per segnalare i prompt che sono contrassegnati da Claude o da un'API di moderazione come dannosa, in modo che possano intervenire per limitare o rimuovere gli utenti con alti tassi di violazione [1].
Antropico è inoltre impegnato nell'affidabilità e nell'interpretazione dei suoi sistemi AI, raggiunti attraverso una ricerca rigorosa e l'applicazione di tecniche di sicurezza avanzate [2]. Una svolta significativa nell'interpretazione è l'uso di Autoencoder sparsi per "estrazione monosemantica delle caratteristiche", che semplifica le reti neurali complesse in componenti comprensibili [2].
Citazioni:
[1] https://support.anthropic.com/en/articles/9199617-api-trust-safety-tools
[2] https://klu.ai/glossary/anthropic-ai
[3] https://myscale.com/blog/transformative-influence-anthropopic-ai-safety-measures/
[4] https://www.anthropic.com/news/frontier-model-security
[5] https://support.anthropic.com/en/articles/8106465-our-approach-to-user-safety
[6] https://www.alignmentforum.org/posts/xhkr5ktvdjrsmej3/anthropic--core-views-on-ai-safety
[7] https://www.anthropic.com/news/anthropics-responsible-scaling-policy
[8] https://engineeringideas.substack.com/p/comments-on-anthropics-ai-safety
[9] https://www.youtube.com/watch?v=E6_X0ZoxVVI
[10] https://www.anthropic.com/news/core-views-on-ai-safety