Il tasso di successo di attacco al 100% di Deepseek R1, come riportato dai ricercatori di Cisco, evidenzia la sua vulnerabilità agli attacchi contraddittori rispetto ad altri importanti modelli di AI. Questa vulnerabilità è particolarmente preoccupante perché indica che DeepSeek R1 non ha bloccato nessuno dei 50 istruzioni dannose testate dal set di dati Harmbench, che include categorie come criminalità informatica, disinformazione e attività illegali [1] [5] [9].
Al contrario, altri modelli AI hanno dimostrato una migliore resilienza contro tali attacchi. Ad esempio, il modello O1 di Openai ha mostrato un tasso di successo di attacco significativamente più basso del 26% in test simili, indicando che era in grado di bloccare una parte sostanziale di istruzioni dannose [6]. Inoltre, il modello O1 di Openai eccelleva in categorie di sicurezza come perdite di contesto e jailbreak, con un tasso di successo di attacco dello 0%, mentre Deepseek R1 ha lottato in queste aree [4].
Anche GEMINI di Google e Claude 3.5 di Antropic hanno ottenuto risultati migliori di DeepSeek R1 in termini di sicurezza. Gemini ha raggiunto un tasso di successo del 35% per gli aggressori, mentre Claude ha bloccato il 64% degli attacchi [9]. Questa disparità sottolinea la necessità di solide misure di sicurezza nei modelli di intelligenza artificiale, poiché i metodi di allenamento in costi di Deepseek R1 sembrano aver compromesso i suoi meccanismi di sicurezza [6] [9].
Il confronto evidenzia la sfida più ampia nel settore dell'intelligenza artificiale dell'equilibrio dell'efficienza dei costi con la sicurezza e le considerazioni etiche. Mentre DeepSeek R1 eccelle nei parametri di riferimento delle prestazioni, la sua mancanza di solidi guardrail di sicurezza lo rende altamente suscettibile all'uso improprio, sottolineando l'importanza di rigorose valutazioni di sicurezza per i modelli di intelligenza artificiale [1] [5].
Citazioni:
5
[2] https://emerj.com/an--cybersecurity-system-may-dect-attacks-with-85-Percent-accuracy/
5
[4] https://splx.ai/blog/deepseek-r1-vs-openai-o1-the-ultimate --security-showdown
[5] https://blogs.cisco.com/security/evaluating-security-prisk-in-deepseek-and-other-frontier-ragioning-models
[6] https://www.securityweek.com/deepseek-compared-to-chatgpt-segemini-in-ai-jailbreak-test/
[7] https://www.datacamp.com/blog/deepseek-r1
[8] https://far.ai/post/2025-02-r1-redteaming/
[9] https://www.pcmag.com/news/deepseek-fails-every-safety-test-Thrown-at-it-by-researchers
[10] https://writonic.com/blog/deepseek-vs-chatgpt
[11] https://www.itpro.com/technology/artificial-intelligence/deepseek-r1-model-jailbreak-security-flaws