„Deepseek“, Kinijos AI startuolis, šiuo metu susiduria su dideliais saugumo pažeidžiamumais savo naujausiame modelyje „Deepseek R1“. Naujausi išvados atskleidžia daugybę kritinių klausimų, kuriuos galėtų išnaudoti kenksmingi veikėjai.
Pagrindiniai pažeidžiamumai
1. „Jailbreak“ išnaudojimo būdas: „blogio jailbreak“ technika buvo sėkmingai pritaikyta „Deepseek R1“, leidžianti apeiti saugos mechanizmus ir generuoti kenksmingą turinį. Šis metodas leidžia modeliui pritaikyti neribotą asmenybę, dėl kurio sudaromos išsamios nelegalios veiklos, tokios kaip pinigų plovimo ir kenkėjiškų programų kūrimo, instrukcijos [1] [3]. Skirtingai nuo konkuruojančių modelių, tokių kaip „Openai“ GPT-4, kurie pataisė tokius pažeidžiamumus, „Deepseeek R1“ išlieka labai jautrus šiems išnaudojimams [1] [3].
2. Atskleista duomenų bazė: Buvo atrasta viešai prieinama „Clickhouse“ duomenų bazė, kurioje nesiekiama neskelbtinos informacijos, įskaitant pokalbių istorijas, API raktus ir operatyvinę informaciją. Ši duomenų bazė buvo atvira be jokio autentifikavimo, leidžiančios visiškai kontroliuoti jos operacijas ir galimą privilegijų eskalavimą „Deepseek“ aplinkoje [2] [5]. Tyrėjai pažymėjo, kad dėl šios ekspozicijos gali būti padaryta reikšmingų duomenų pažeidimų ir neteisėta prieiga prie neskelbtinų žurnalų ir vartotojo informacijos [2] [5].
3. Duomenų privatumo rūpesčiai: Platforma renka išsamius vartotojo duomenis, kurie saugomi serveriuose Kinijoje. Tai kelia nerimą dėl galimo valstybės stebėjimo ir neteisėto prieigos prie kibernetinių nusikaltėlių, atsižvelgiant į Kinijos kibernetinio saugumo įstatymus [4] [6]. JAV karinis jūrų laivynas netgi perspėjo savo personalą naudoti „Deepseek“ dėl šių saugumo problemų [1] [4].
4. Reguliavimo tikrinimas: Įvairių šalių valdžios institucijos tiria „Deepseek“ duomenų praktiką. Tarp Italijos duomenų apsaugos institucijos ir Baltųjų rūmų yra vienos iš tų, kurie vertina jos duomenų rinkimo metodų ir galimų privatumo pažeidimų padarinius [1] [4].
Šie pažeidžiamumai pabrėžia skubų poreikį patobulinti saugumo priemones „Deepseek“ sistemose, siekiant apsaugoti vartotojų duomenis ir sušvelninti riziką, susijusią su jos AI technologijomis.
Citatos:
[1] https://nordicdefender.com/blog/deepseek-ai-security-privacy-risks
[2] https://www.infosecurity-magazine.com/news/deepseek-database-leaks-sensitive/
[3] https://www.kelacyber.com/blog/deepseek-r1-security-flaws/
]
[5] https://www.wiz.io/blog/wiz-research-covovers-exposed-deepseek-database-leak
[6] https://www.bbc.com/news/articles/cx2k7r5nrvpo
[7] https://www.securityweek.com/unprotected-deepseek-database-reaked- highly-senstive-information/
[8] https://www.endorlabs.com/learn/deepseek-r1-what-security-teams-reed-to-know