Antropic zajišťuje bezpečnost a spolehlivost AI prostřednictvím několika opatření, včetně testování na stresy, bezpečnostních protokolů a odpovědného měřítka [1]. Využívají bezpečnostní úrovně AI (ASL), modelované po úrovni biologické bezpečnosti, ke stanovení bezpečnostních opatření založených na potenciálních rizicích [2] [3].
Klíčové komponenty bezpečnostního přístupu Antropic:
* Politika zodpovědného škálování (RSP) Antropic využívá systém bezpečnosti AI (ASL) [3]. Pokud systém AI prokazuje určité nebezpečné schopnosti, antropický se zavazuje k jeho nasazení nebo školení výkonnějších modelů, dokud nebudou implementovány konkrétní záruky [3].
* Časté testování antropických testů často na nebezpečné schopnosti v pravidelných intervalech, aby se zajistilo, že nebezpečné schopnosti nebudou vytvářeny nevědomky [3].
* Hodnocení modelu určená k detekci nebezpečných schopností tato hodnocení fungují jako konzervativní „varovné signály“, aby se zabránilo náhodnému překročení kritických bezpečnostních prahů [2]. Hodnocení se může skládat z více fází obtížnosti, kde se probíhá pozdější fáze, pouze pokud předchozí hodnocení vykazují varovné signály [2].
* Procedurální závazky ASLS Určete, co musí platit pro modely Anthropic a zabezpečení, aby bylo možné bezpečné školení a nasazení [2].
* Monitorování a protokolování: Pro interní použití jsou vygenerované výstupy a odpovídající vstupy zaznamenány a zachovány po dobu nejméně 30 dnů. Tyto protokoly jsou monitorovány na abnormální aktivitu a alarmy se berou vážně a okamžitě reagují [2].
* Tiered Access: V omezených případech mohou být modely se schopnostmi relevantními pro katastrofické poškození k dispozici vybrané skupině prověřených uživatelů s legitimním a prospěšným případem použití, které nelze oddělit od nebezpečných schopností, za předpokladu, že přístup lze zajistit bezpečně as s nimi dostatečný dohled [2].
* Zranitelnost a zveřejnění incidentu: Antropická zapojení do procesu zranitelnosti a incidentu s jinými laboratořemi (s výhradou bezpečnosti nebo právních omezení), který zahrnuje výsledky s červeným týmem, hrozby národní bezpečnosti a autonomní replikační hrozby [2].
* Rychlá reakce na zranitelnosti modelu: Když je informována o nově objevené zranitelnosti modelu, která umožňuje katastrofické poškození, antropická se zavázala ke zmírnění nebo okamžitě oprava [2].
* Řízení dvou stran: Aplikované na všechny systémy zapojené do vývoje, školení, hostování a nasazení modelů Frontier AI, zahrnuje návrh systému, kde žádná osoba nemá přetrvávající přístup k kritickému prostředí; Místo toho musí požádat o časově omezený přístup od spolupracovníka s obchodním odůvodněním [8].
* Mezi uživatelské bezpečnostní funkce Mezi patří detekční modely, které označují potenciálně škodlivý obsah, bezpečnostní filtry na výzvách a vylepšené bezpečnostní filtry pro uživatele, kteří opakovaně porušují zásady [7].
Antropic také používá detekční modely k označení potenciálně škodlivého obsahu a bezpečnostních filtrů na výzvách [7]. Aktivně investují a experimentují s dalšími bezpečnostními prvky a poskytují nástroje ke zmírnění újmy a povzbuzují uživatele, aby poskytovali zpětnou vazbu k těmto opatřením [7].
Citace:
[1] https://myscale.com/blog/transformative-influence-annthropic-ai-sefety-petys/
[2] https://www-cdn.anthropic.com/1ADF000C8F675958C2EE23805D91AAADE1CD4613/Responsible-scaling-policy.pdf
[3] https://www.anthropic.com/news/uk-aifety-summit
[4] https://accelerationeconomy.com/ai/anthropic-leads-the- náboje-in-afety-and-performance/
[5] https://www.anthropic.com/news/core-views-on-ai-sefety
[6] https://engineeringideas.substack.com/p/comments-on-anthropics-ai-sefety
[7] https://support.anthropic.com/en/articles/8106465-OUR-APPROACH-TO-USERSAFETY
[8] https://www.anthropic.com/news/frontier-model-security