Relatórios recentes destacaram vulnerabilidades significativas no Deepseek R1, um modelo generativo de IA desenvolvido pela empresa chinesa Deepseek. Essas vulnerabilidades incluem um grande incidente de exposição a dados e falhas de segurança que permitem exploração maliciosa.
Incidente de exposição aos dados
Os pesquisadores do WIZ descobriram que a DeepSeek tinha um banco de dados de clickhouse acessível ao público, que foi deixado aberto sem qualquer autenticação. Isso expôs mais de um milhão de linhas de dados internos sensíveis, incluindo histórias de bate -papo do usuário, segredos da API e detalhes operacionais. O banco de dados estava ligado a dois dos subdomínios de Deepseek e permitiu acesso irrestrito a toras internas que datam de 6 de janeiro de 2025. Os pesquisadores foram capazes de executar consultas arbitrárias de SQL, que poderiam ter levado a uma extração de dados adicionais e potencial escalada de privilégios nos sistemas da empresa [1] [3] [5].
Vulnerabilidades em Deepseek R1
Além da exposição aos dados, os especialistas em segurança identificaram que o Deepseek R1 é suscetível a vários métodos de ataque, incluindo o "Jailbreak do mal". Essa técnica permite que atores maliciosos ignorem as restrições de segurança e gerem resultados nocivos, como instruções para criar malware ou se envolver em fraude financeira. Ao contrário de outros modelos de IA, como o GPT-4 do OpenAI, que corrigiram vulnerabilidades semelhantes, o DeepSeek R1 permanece altamente explorável devido ao seu processo de raciocínio transparente que pode ser manipulado pelos usuários [2] [4].Resposta e patches
A partir de agora, não há menção específica de patches ou correções implementados pela DeepSeek para essas vulnerabilidades. A Companhia reconheceu os problemas, mas não detalhou publicamente nenhuma medida corretiva tomada em resposta às violações ou vulnerabilidades de segurança identificadas pelos pesquisadores. Dada a natureza crítica desses achados, é crucial que a DeepSeek priorize aprimoramentos de segurança e implemente medidas de proteção robustas para proteger os dados do usuário e impedir explorações futuras [1] [2] [4].Citações:
[1] https://cyberscoop.com/deepseek-ai-security-issues-wiz-research/
[2] https://www.kelacyber.com/blog/deepseek-r1-security-flaws/
[3] https://www.theregister.com/2025/01/30/deepseek_database_left_open/
[4] https://nordicdefender.com/blog/deepseek-ai-security-privacy-riscs
[5] https://www.wiz.io/blog/wiz-research-uncovers-exposed-deepseek-database-leak
[6] https://news.ycombinator.com/item?id=42852866
[7] https://www.endorlabs.com/learn/deepseek-r1-what-security-teams-need-to-know
[8] https://github.com/deepseek-ai/deepseek-r1/activity
[9] https://github.blog/changelog/2025-01-29-deepseek-r1-is-now-avilable-in-github-models-public-preview/