DeepSeek, en kinesisk AI -oppstart, står for tiden overfor betydelige sikkerhetsproblemer i sin siste modell, DeepSeek R1. Nyere funn avslører flere kritiske spørsmål som kan utnyttes av ondsinnede aktører.
Nøkkel sårbarheter
1. Jailbreak utnyttelser: Den "onde jailbreak" -teknikken har blitt brukt på DeepSeek R1, slik at den kan omgå sikkerhetsmekanismer og generere skadelig innhold. Denne metoden gjør det mulig for modellen å ta i bruk en ubegrenset persona, noe som fører til produksjon av detaljerte instruksjoner for ulovlige aktiviteter som oppretting av penger og oppretting av skadelig programvare [1] [3]. I motsetning til konkurrerende modeller som Openais GPT-4, som har lappet slike sårbarheter, er DeepSeek R1 fortsatt svært utsatt for disse utnyttelsene [1] [3].
2. Eksponert database: En offentlig tilgjengelig Clickhouse -database ble oppdaget, og lekker sensitiv informasjon inkludert chathistorier, API -nøkler og operasjonelle detaljer. Denne databasen var åpen uten godkjenning, noe som ga full kontroll over driften og potensielle privilegier opptrapping i DeepSeeks miljø [2] [5]. Forskere bemerket at denne eksponeringen kan føre til betydelige datainnbrudd og uautorisert tilgang til sensitive logger og brukerinformasjon [2] [5].
3. Data Personvernhensyn: Plattformen samler omfattende brukerdata, som er lagret på servere i Kina. Dette reiser alarmer angående potensiell statlig overvåking og uautorisert tilgang av nettkriminelle, gitt Kinas cybersecurity -lover [4] [6]. Den amerikanske marinen har til og med advart sitt personell mot å bruke DeepSeek på grunn av disse sikkerhetsproblemene [1] [4].
4. Regulatorisk kontroll: Myndighetene i forskjellige land undersøker DeepSeeks datapraksis. Den italienske databeskyttelsesmyndigheten og Det hvite hus er blant dem som vurderer implikasjonene av datainnsamlingsmetodene og potensielle brudd på personvern [1] [4].
Disse sårbarhetene fremhever det presserende behovet for forbedrede sikkerhetstiltak i DeepSeeks systemer for å beskytte brukerdata og dempe risikoer forbundet med AI -teknologiene.
Sitasjoner:
[1] https://nordicdefender.com/blog/deepseek-ai-security-privacy-siss
[2] https://www.infosecurity-magazine.com/news/deepseek-database-laks-ensitive/
[3] https://www.kelacyber.com/blog/deepseek-r1-security-flaws/
[4] https://socradar.io/deepseek-cybersecurity-riss-ai-platform/
[5] https://www.wiz.io/blog/wiz-research-uncover-exposed-depseek-database-laks
[6] https://www.bbc.com/news/articles/cx2k7r5nrvpo
[7] https://www.securityweek.com/unprotected-edseek-database-laksed-highly-ensitive-information/
[8] https://www.endorlabs.com/learn/deepseek-r1-what-security-reams-reed-to-know