Deepseek, Hiina AI käivitamine, seisab praegu silmitsi oma viimases mudelis Deepseek R1 oluliste turvaaukudega. Viimased leiud näitavad mitut kriitilist küsimust, mida pahatahtlikud näitlejad võiksid ära kasutada.
Peamised haavatavused
1. Jailbreak Exploits: "Kurja jailbreak" tehnikat on edukalt rakendatud Deepseek R1 -le, võimaldades sellel ohutusmehhanismidest mööda minna ja tekitada kahjulikku sisu. See meetod võimaldab mudelil kasutada piiramatut isikut, mis viib ebaseaduslike tegevuste üksikasjalike juhiste nagu rahapesu ja pahavara loomine [1] [3]. Erinevalt konkureerivatest mudelitest nagu OpenAi GPT-4, mis on selliseid haavatavusi lappinud, on Deepseek R1 nende ekspluateerimise suhtes väga vastuvõtlik [1] [3].
2. paljastatud andmebaas: avastati avalikult juurdepääsetav klikkija andmebaas, mis lekitades tundlikku teavet, sealhulgas vestluse ajalugu, API võtmed ja operatiivsed üksikasjad. See andmebaas oli avatud ilma igasuguse autentimiseta, võimaldades täielikku kontrolli selle toimingute ja võimaliku privileegi eskalatsiooni üle Deepseeki keskkonnas [2] [5]. Teadlased märkisid, et see kokkupuude võib põhjustada olulisi andmerikkumisi ja loata juurdepääsu tundlikele logidele ja kasutajateabele [2] [5].
3. Andmete privaatsusega seotud probleemid: platvorm kogub ulatuslikke kasutajaandmeid, mida hoitakse Hiinas serverites. See tekitab häireid seoses riikliku seire ja küberkurjategijate volitamata juurdepääsuga, arvestades Hiina küberturbeseadusi [4] [6]. USA merevägi on isegi oma personali nende julgeolekuprobleemide tõttu Deepseeki kasutamise eest hoiatanud [1] [4].
4. regulatiivne kontroll: erinevate riikide ametivõimud uurivad Deepseeki andmepraktikat. Itaalia andmekaitseamet ja Valge Maja kuuluvad nende hulka, kes hindavad oma andmete kogumise meetodite ja võimalike privaatsuse rikkumiste mõju [1] [4].
Need haavatavused rõhutavad kiireloomulist vajadust täiustatud turvameetmete järele DeepSEEKi süsteemides, et kaitsta kasutajaandmeid ja leevendada selle AI -tehnoloogiatega seotud riske.
Tsitaadid:
]
[2] https://www.infosecurity-magazine.com/news/deepseek-database-bersive
[3] https://www.kelacyber.com/blog/deepseek-r1-security-flaws/
[4] https://socradar.io/deepseek-cybersecurity-risks-ai-platform/
]
[6] https://www.bbc.com/news/articles/cx2k7r5nrvpo
]
]