На 100% атаку DeepSeek R1 показатель успеха атаки, как сообщают исследователи Cisco, подчеркивает ее уязвимость к состязательным атакам по сравнению с другими выдающимися моделями ИИ. Эта уязвимость особенно касается, потому что это указывает на то, что DeepSeek R1 не смог заблокировать ни одно из 50 вредных подсказок, протестированных из набора данных Harmbench, который включает в себя такие категории, как киберпреступность, дезинформация и незаконная деятельность [1] [5] [9].
Напротив, другие модели ИИ продемонстрировали лучшую устойчивость против таких атак. Например, модель Operai O1 показала значительно более низкий уровень успеха атаки в 26% в аналогичных тестах, что указывает на то, что она смогла заблокировать существенную часть вредных подсказок [6]. Кроме того, модель Openai O1 преуспела в категориях безопасности, таких как утечка контекста и джейлбрейк, с уровнем успеха атаки 0%, тогда как DeepSeek R1 боролся в этих областях [4].
Google Gemini и Claude 3.5 от Anpropic также работали лучше, чем DeepSeek R1 с точки зрения безопасности. Близнецы добились 35% успеха для злоумышленников, в то время как Клод 3,5 заблокировал 64% атак [9]. Это несоответствие подчеркивает необходимость надежных мер безопасности в моделях ИИ, поскольку экономичные методы обучения DeepSeek R1, по-видимому, скомпрометировали его механизмы безопасности [6] [9].
Сравнение подчеркивает более широкую проблему в индустрии искусственного интеллекта в сбалансировании экономической эффективности с помощью безопасности и этических соображений. В то время как DeepSeek R1 превосходен в показателях производительности, отсутствие надежных ограждений обеспечивает его очень восприимчивым к неправильному использованию, подчеркивая важность строгих оценок безопасности для моделей ИИ [1] [5].
Цитаты:
[1] https://thecuberesearch.com/cisco-uncovers-criatical-security-flaws-in-deepseek-r1-ai-model/
[2] https://emerj.com/an-ai-cybersecurity-system-may-detect-attacks-with-85-percent-ccuracy/
[3.]
[4] https://splx.ai/blog/deepseek-r1-vs-openai-o1-the-ultimate-security-showdown
[5] https://blogs.cisco.com/security/evaluation-security-risk-in-deepseek-and-other-frontier-reaseing-dels
[6] https://www.securityweek.com/deepseek-compared-to-chatgpt-gemini-in-jailbreak-test/
[7] https://www.datacamp.com/blog/deepseek-r1
[8] https://far.ai/post/2025-02-r1-redteaming/
[9] https://www.pcmag.com/news/deepseek-fails-every-sfety-test-thrown-at-it-by-researchers
[10] https://writesonic.com/blog/deepseek-vs-chatgpt
[11] https://www.itpro.com/technology/artificial-intelligence/deepseek-r1-model-jailbreak-security-llaws