Deepseek, en kinesisk AI -start, står för närvarande inför betydande säkerhetssårbarheter i sin senaste modell, Deepseek R1. De senaste resultaten avslöjar flera kritiska frågor som kan utnyttjas av skadliga aktörer.
Nyckel sårbarheter
1. JAILBREAK EXPLOITS: Tekniken "Evil Jailbreak" har framgångsrikt tillämpats på Deepseek R1, vilket gör att den kan kringgå säkerhetsmekanismer och generera skadligt innehåll. Denna metod gör det möjligt för modellen att anta en obegränsad persona, vilket leder till produktion av detaljerade instruktioner för olagliga aktiviteter som penningtvätt och skapande av skadlig programvara [1] [3]. Till skillnad från konkurrerande modeller som OpenAI: s GPT-4, som har lappat sådana sårbarheter, förblir Deepseek R1 mycket mottagliga för dessa exploater [1] [3].
2. Exponerad databas: En offentligt tillgänglig Clickhouse -databas upptäcktes och läckte känslig information inklusive chatthistorier, API -nycklar och operativa detaljer. Denna databas var öppen utan någon autentisering, vilket möjliggjorde full kontroll över dess verksamhet och potentiella privilegiupptrappning inom Deepseeks miljö [2] [5]. Forskare noterade att denna exponering kan leda till betydande dataöverträdelser och obehörig åtkomst till känsliga loggar och användarinformation [2] [5].
3. Problem med sekretessens integritet: Plattformen samlar in omfattande användardata, som lagras på servrar i Kina. Detta väcker larm angående potentiell övervakning av tillstånd och obehörig åtkomst av cyberbrottslingar, med tanke på Kinas lagar om cybersäkerhet [4] [6]. Den amerikanska marinen har till och med varnat sin personal mot att använda Deepseek på grund av dessa säkerhetsproblem [1] [4].
4. Reglerande granskning: Myndigheterna i olika länder undersöker Deepseeks datapraxis. Den italienska myndigheten för dataskydd och Vita huset är bland de som bedömer konsekvenserna av dess datainsamlingsmetoder och potentiella överträdelser av integritet [1] [4].
Dessa sårbarheter belyser det brådskande behovet av förbättrade säkerhetsåtgärder inom Deepseeks system för att skydda användardata och mildra risker i samband med dess AI -teknik.
Citeringar:
[1] https://nordicdefender.com/blog/deepseek-ai-security-privacy-srisker
[2] https://www.infosecurity-magazine.com/news/deepseek-database-leaks-sensitive/
[3] https://www.kelacyber.com/blog/deepseek-r1-security-laws/
[4] https://socradar.io/deepseek-cybersecurity-srisk-ai-platform/
[5] https://www.wiz.io/blog/wiz-research-covers-exposed-deepseek-database-läck
[6] https://www.bbc.com/news/articles/cx2k7r5nrvpo
]
]