Deepseek, en kinesisk AI -opstart, står i øjeblikket over for betydelige sikkerhedssårbarheder i sin seneste model, Deepseek R1. Nylige fund afslører flere kritiske problemer, der kunne udnyttes af ondsindede aktører.
Nøgle sårbarheder
1. Jailbreak Exploits: Teknikken "Onde Jailbreak" er blevet anvendt med succes på Deepseek R1, så den kan omgå sikkerhedsmekanismer og generere skadeligt indhold. Denne metode gør det muligt for modellen at anvende en ubegrænset persona, hvilket fører til produktion af detaljerede instruktioner til ulovlige aktiviteter såsom hvidvaskning af penge og malware -skabelse [1] [3]. I modsætning til konkurrerende modeller som Openai's GPT-4, der har lappet sådanne sårbarheder, forbliver Deepseek R1 meget modtagelig for disse udnyttelser [1] [3].
2. udsat database: En offentligt tilgængelig Clickhouse -database blev opdaget, lækker følsomme oplysninger, herunder chathistorier, API -nøgler og operationelle detaljer. Denne database var åben uden godkendelse, hvilket tillader fuld kontrol over dens operationer og potentielle privilegium -eskalering inden for Deepseeks miljø [2] [5]. Forskere bemærkede, at denne eksponering kunne føre til betydelige dataovertrædelser og uautoriseret adgang til følsomme logfiler og brugerinformation [2] [5].
3. Data Privatliv Bekymringer: Platformen indsamler omfattende brugerdata, der er gemt på servere i Kina. Dette rejser alarmer vedrørende potentiel statsovervågning og uautoriseret adgang fra cyberkriminelle i betragtning af Kinas cybersikkerhedslove [4] [6]. Den amerikanske flåde har endda advaret sit personale mod at bruge Deepseek på grund af disse sikkerhedsmæssige bekymringer [1] [4].
4. lovgivningsmæssig kontrol: Myndighederne i forskellige lande undersøger Deepseeks datapraksis. Den italienske databeskyttelsesmyndighed og Det Hvide Hus er blandt dem, der vurderer konsekvenserne af dets dataindsamlingsmetoder og potentielle overtrædelser af privatlivets fred [1] [4].
Disse sårbarheder fremhæver det presserende behov for forbedrede sikkerhedsforanstaltninger inden for Deepseeks systemer for at beskytte brugerdata og afbøde risici forbundet med dets AI -teknologier.
Citater:
[1] https://nordicdefender.com/blog/deepseek-i-security-privacy-risici
[2] https://www.infosecurity-magazine.com/news/deepseek-database-leaks-sensitive/
[3] https://www.kelacyber.com/blog/deepseek-r1-security-flaws/
[4] https://socradar.io/deepseek-cybersecurity-risici-i-platform/
[5] https://www.wiz.io/blog/wiz-research-uncovers-exposed-deepseek-database-leak
[6] https://www.bbc.com/news/articles/cx2k7r5nrvpo
)
[8] https://www.endorlabs.com/learn/deepseek-r1-what-security-teams-need-to-now