Останні звіти підкреслили значні вразливості в DeepSeek R1, генеративній моделі AI, розробленої китайською компанією DeepSeek. Ці вразливості включають як основні випадки впливу даних, так і недоліки безпеки, які дозволяють досягти шкідливої експлуатації.
Інцидент впливу даних
Дослідники Wiz виявили, що DeepSeek має загальнодоступну базу даних Clickhouse, яка залишилася відкритим без будь -якої автентифікації. Це викрило понад мільйон ліній чутливих внутрішніх даних, включаючи історії чатів користувачів, секрети API та оперативні деталі. База даних була пов'язана з двома субдоменами DeepSeek і дозволила необмежений доступ до внутрішніх журналів, що датуються 6 січня 2025 року. Дослідники змогли запустити довільні запити SQL, що могло призвести до подальшого вилучення даних та потенційного ескалації привілеїв у системах компанії [1] [3] [5].вразливості в DeepSeek R1
Окрім впливу даних, експерти з безпеки визначили, що DeepSeek R1 сприйнятливий до різних методів нападу, включаючи "Злий джейлбрейк". Ця методика дозволяє зловмисним суб'єктам обходити обмеження безпеки та генерувати шкідливі результати, такі як інструкції щодо створення шкідливих програм або залучення до фінансових шахрайств. На відміну від інших моделей AI, таких як GPT-4 OpenAI, які зафіксували подібні вразливості, DeepSeek R1 залишається дуже експлуатаційним завдяки своєму прозорому процесу міркувань, яким можна маніпулювати користувачами [2] [4].Відповідь та виправлення
На сьогоднішній день не існує конкретної згадки про те, що патчі чи виправлення впроваджуються DeepSeek для цих вразливих місць. Компанія визнала проблеми, але публічно не детально детально розповідала про коригувальні заходи, вжиті у відповідь на порушення безпеки або вразливості, визначені дослідниками. Враховуючи критичний характер цих висновків, для DeepSeek важливо визначити пріоритетні підвищення безпеки та застосовувати надійні захисні заходи для захисту даних користувачів та запобігання майбутніх подвигах [1] [2] [4].Цитати:
[1] https://cyberscoop.com/deepseek-ai-security-issues-wiz-research/
[2] https://www.kelacyber.com/blog/deepseek-r1-security-flaws/
[3] https://www.theregister.com/2025/01/30/deepseek_database_left_open/
[4] https://nordicdefender.com/blog/deepseek-ai-security-privacy-risks
[5] https://www.wiz.io/blog/wiz-research-uncovers-expoded-deepseek-database-leak
[6] https://news.ycombinator.com/item?id=42852866
[7] https://www.endorlabs.com/learn/deepseek-r1-what-security-teams-need-to-know
[8] https://github.com/deepseek-ai/deepseek-r1/activity
[9] https://github.blog/changelog/2025-01-29-deepseek-r1-is-now-available-in-github-models-public-preview/