Недавние отчеты подчеркнули значительные уязвимости в Deepseek R1, генеративной модели ИИ, разработанной китайской компанией Deepseek. Эти уязвимости включают как основной инцидент с экспозицией данных, так и недостатки безопасности, которые допускают вредоносную эксплуатацию.
инцидент экспозиции данных
Исследователи Wiz обнаружили, что Deepseek имела общедоступную базу данных Clickhouse, которая была оставлена открытой без какой -либо аутентификации. Это выявило более миллиона строк конфиденциальных внутренних данных, включая истории пользовательских чат, секреты API и оперативные детали. База данных была связана с двумя субдоменом DeepSeek и позволил неограниченный доступ к внутренним журналам, начиная с 6 января 2025 г. [1] [3] [5].Уязвимости в Deepseek R1
В дополнение к воздействию данных, эксперты по безопасности определили, что DeepSeek R1 подвержен различным методам атаки, включая «злой джейлбрейк». Этот метод позволяет вредоносным субъектам обходить ограничения безопасности и генерировать вредные результаты, такие как инструкции по созданию вредоносного ПО или вступление в финансовое мошенничество. В отличие от других моделей искусственного интеллекта, таких как GPT-4 OpenAI, которые исправлены аналогичные уязвимости, DeepSeek R1 остается очень эксплуатационным из-за своего прозрачного процесса рассуждений, которым можно манипулировать пользователями [2] [4].ответ и патчи
На данный момент нет особого упоминания о патчах или исправлениях, реализуемых DeepSeek для этих уязвимостей. Компания признала эти проблемы, но не публично подробно описала какие -либо корректирующие меры, принятые в ответ на нарушения безопасности или уязвимости, выявленные исследователями. Учитывая критический характер этих выводов, для DeepSeek крайне важно определить повышение квалификации безопасности и реализовать надежные защитные меры для защиты пользовательских данных и предотвращения будущих эксплойтов [1] [2] [4].Цитаты:
[1] https://cyberscoop.com/deepseek-ai-security-issues-wiz-research/
[2] https://www.kelacyber.com/blog/deepseek-r1-security-flaws/
[3] https://www.theregister.com/2025/01/30/deepseek_database_left_open/
[4] https://nordicdefender.com/blog/deepseek-ai-security-privacy-risks
[5] https://www.wiz.io/blog/wiz-research-uncovers-exposed-deepseek-database
[6] https://news.ycombinator.com/item?id=42852866
[7] https://www.endorlabs.com/learn/deepseek-r1-what-security-teams-need-to-know
[8] https://github.com/deepseek-ai/deepseek-r1/activity
[9] https://github.blog/changelog/2025-01-29-deepseek-r1-is-now-available-in-github-models-public-preview/