GPT-4,5 on arvioitu sen tehokkuudesta lieventämään kemiallisia, biologisia, radiologisia ja ydinaseita (CBRN) uhkia ja vakuuttamista koskeviin riskiin. Tässä on yksityiskohtainen yleiskatsaus sen ominaisuuksista ja lieventämistä:
CBRN -riskit
GPT-4,5 luokitellaan keskimääräiseksi CBRN-uhkien riskiksi. Tämä luokittelu perustuu arviointeihin, jotka arvioivat mallin kykyä auttaa tunnettujen biologisten uhkien toistamisen operatiivisessa suunnittelussa. Tätä riskiä pidetään kuitenkin rajallisena, koska se auttaa ensisijaisesti asiantuntijoita, joilla on jo merkittävää alueosaamista [1].
CBRN-riskien lieventämiseksi GPT-4,5 työllistää useita strategioita:
- Ennakkoharjoittelut: Malli suodattaa CBRN-lisääntymiseen liittyvät tiedot, jotka ovat rajoitetut tai lainkaan lailliset käytöt. Tämä auttaa vähentämään mallin altistumista mahdollisesti vaaralliselle tiedoille [1].
- Mallin kestävyys: GPT-4.5 on suunniteltu kestämään haitallisia ja vastustavia käyttäjiä parantamalla sen kykyä vastustaa CBRN-uhkaan liittyviä manipulointia [1].
- Seuranta ja havaitseminen: CBRN -tehtäviin liittyvien toimien seuraamiseksi ja havaitsemiseksi pyritään varmistamaan, että väärinkäyttö tunnistetaan ja käsitellään nopeasti [1].
Vakuutusriskit
GPT-4,5: llä on myös keskipitkän riskin nimeäminen vakuuttamiseen. Tämä johtuu sen huipputeknisestä suorituskyvystä vakuuttavan sisällön tuottamisessa, jota voitaisiin käyttää uskomusten tai toimien manipulointiin [2].
Vakuuttamisriskeille GPT-4,5 sisältää seuraavat lieventämiset:
- Turvallisuuskoulutus: Malli suorittaa erityistä koulutusta vastuullisesti poliittisten vakuuttamistehtävien käsittelemiseksi, pyrkiessä estämään väärinkäyttöä yleisen mielipiteen vaikuttamiseksi tai manipuloimiseksi [1].
- Vaikuttamistoiminnan seuranta: Toimintoihin, ääriliikkeisiin ja väärään poliittiseen toimintaan liittyvät epäiltyjen väärinkäytökset ovat jatkuvia seurantaa ja tutkimuksia. Tämä auttaa tunnistamaan ja lieventämään mahdollisia vakuuttamisriskejä [1].
- Vakuuttamisarviointien uudelleenarviointi: OpenAi arvioi uudelleen lähestymistapansa reaalimaailman vakuuttamisriskien arvioimiseksi, keskittyen tekijöihin, kuten sisällön persoonallisuuteen, jakeluun ja esitykseen ajan myötä [2].
Kaiken kaikkiaan, vaikka GPT-4,5 aiheuttaa keskipitkän riskin sekä CBRN: lle että vakuuttamiselle, siinä käytetään vahvaa lieventämistä näiden riskien minimoimiseksi. Näitä ovat edistyksellinen suodatus, turvallisuusharjoittelu ja jatkuva seuranta, jotta voidaan varmistaa, että mallia käytetään vastuullisesti ja turvallisesti.
Viittaukset:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://assets.ctfassets.net/kftzwdyauwt9/7eadv6oawhhxlaehuyu7db/64e9f7916d3581ba4b5d0f0a6c5098d1/gpt-4-5_system_card_2272025.pdf
.
[4] https://model-spec.openai.com
[5] https://www.reddit.com/r/chatgpt/comments/1iznoek/gpt45_system_card_mmlu_896/
[6] https://pmc.ncbi.nlm.nih.gov/articles/PMC10795998/
[7] https://openai.com/index/gpt-4-5-system-card/
.