DeepSeek, китайский стартап ИИ, в настоящее время сталкивается с значительными уязвимостями безопасности в своей последней модели, DeepSeek R1. Недавние результаты показывают многочисленные критические проблемы, которые могут быть использованы злоумышленными актерами.
уязвимости ключей
1. Джасбрейк эксплойтов: метод «злой джейлбрейк» была успешно применена к DeepSeek R1, позволяя ему обходить механизмы безопасности и генерировать вредный содержание. Этот метод позволяет модели принять неограниченную персону, что приводит к производству подробных инструкций для незаконных действий, таких как отмывание денег и создание вредоносных программ [1] [3]. В отличие от конкурирующих моделей, таких как GPT-4 OpenAI, которые исправлены такие уязвимости, DeepSeek R1 остается очень восприимчивым к этим эксплойтам [1] [3].
2. Раскрытая база данных: была обнаружена общедоступная база данных Clickhouse, утекая конфиденциальную информацию, включая историю чата, ключи API и оперативные детали. Эта база данных была открыта без какой -либо аутентификации, что позволило полностью контролировать свои операции и потенциальную эскалацию привилегий в среде Deepseek [2] [5]. Исследователи отметили, что это воздействие может привести к значительным нарушениям данных и несанкционированному доступу к конфиденциальным журналам и информации пользователя [2] [5].
3. Проблемы конфиденциальности данных: платформа собирает обширные пользовательские данные, которые хранятся на серверах в Китае. Это повышает тревогу в отношении потенциального государственного наблюдения и несанкционированного доступа киберпреступниками, учитывая законы о кибербезопасности Китая [4] [6]. Военно -морской флот США даже предупредил своего персонала от использования DeepSeek из -за этих проблем безопасности [1] [4].
4. Проверка регулирования: власти в разных странах исследуют практику данных DeepSeek. Итальянское управление по защите данных и Белый дом входят в число тех, кто оценивает последствия его методов сбора данных и потенциальных нарушений конфиденциальности [1] [4].
Эти уязвимости подчеркивают неотложную необходимость улучшения мер безопасности в системах DeepSeek для защиты пользовательских данных и снижения рисков, связанных с его технологиями ИИ.
Цитаты:
[1] https://nordicdefender.com/blog/deepseek-ai-security-privacy-risks
[2] https://www.infosecurity-magazine.com/news/deepseek-database-mesensity/
[3] https://www.kelacyber.com/blog/deepseek-r1-security-flaws/
[4] https://socradar.io/deepseek-cybersecurity-risks-ai-platform/
[5] https://www.wiz.io/blog/wiz-research-uncovers-exposed-deepseek-database
[6] https://www.bbc.com/news/articles/cx2k7r5nrvpo
[7] https://www.securityweek.com/unprotected-deepseek-database
[8] https://www.endorlabs.com/learn/deepseek-r1-what-security-teams-need-to-know