La seguridad de los modelos Deepseek y el copilot de Microsoft difiere significativamente, lo que refleja sus arquitecturas subyacentes y los enfoques de seguridad de las empresas.
Preocupaciones de seguridad de Deepseek
Deepseek ha enfrentado varios desafíos de seguridad que plantean preocupaciones sobre su seguridad y confiabilidad:
- Vulnerabilidades y Jailbreak: Deepseek R1 se ha encontrado vulnerable a las exploits de "jailbreak", lo que permite las indicaciones maliciosas para evitar sus filtros de seguridad. Esta vulnerabilidad permite que el modelo produzca contenido no permitido o peligroso, como instrucciones para actividades ilícitas. Por el contrario, modelos como ChatGPT han parcheado vulnerabilidades similares hace años [1] [5].
- Exposición de datos: Deepseek ha experimentado violaciones de datos significativas. Un incidente notable involucró una base de datos expuesta que contenía información confidencial como secretos de API, registros de chat y detalles de backend. Estos datos fueron accesibles sin autenticación, destacando la falta de controles de seguridad básicos [1] [3] [9].
- Salida y sesgos dañinos: las evaluaciones independientes muestran que Deepseek R1 es más propenso a generar contenido dañino o sesgado en comparación con las alternativas occidentales. Es 11 veces más probabilidades de producir resultados peligrosos y cuatro veces más probabilidades de crear un código inseguro [1].
- Falta de prácticas formales de seguridad: la respuesta de Deepseek a los incidentes de seguridad ha sido reactiva en lugar de proactiva. La compañía carece de un proceso robusto para actualizaciones regulares de seguridad o auditorías de código, a diferencia de los líderes de la industria [1].
Seguridad de copilot de Microsoft
Microsoft Copilot, por otro lado, se beneficia de la robusta infraestructura de seguridad de Microsoft:
- Seguridad de grado empresarial: Copilot opera dentro del ecosistema seguro de Microsoft, asegurando que las interacciones y los resultados sigan siendo privados y cumplen con los estándares regulatorios. Esto es particularmente beneficioso para las industrias que requieren una alta protección de datos, como las finanzas y la atención médica [3].
- Protección de múltiples capas: el copiloto utiliza múltiples capas de protección, incluido el cifrado de datos en reposo y en tránsito, y transferencias de datos seguras a través de la red troncal de Microsoft. Las conexiones están protegidas con la seguridad de la capa de transporte (TLS) [3].
- Cumplimiento y gobierno: el copiloto se adhiere a los compromisos de privacidad, seguridad y regulatorios de Microsoft. Se integra con Dynamics 365 y Power Platform, heredando sus medidas de seguridad como la autenticación multifactorial [3] [6].
- Detección de amenazas proactivas: el copiloto aprovecha la inteligencia de amenazas en tiempo real de fuentes como la inteligencia de amenazas de defensor de Microsoft y Microsoft Sentinel para monitorear y responder de manera proactiva a los riesgos cibernéticos potenciales [2].
En resumen, si bien Deepseek plantea riesgos de seguridad significativos debido a sus vulnerabilidades y la falta de prácticas de seguridad sólidas, Microsoft Copilot ofrece una solución más segura y conforme al aprovechar la infraestructura de seguridad establecida de Microsoft y las capacidades de detección de amenazas proactivas.
Citas:
[1] https://blog.theori.io/deepseek-security-privacy-and-governance-hidden-risks-in-open-source-ai-125958db9d93
[2] https://www.proserveit.com/blog/microsoft-security-copilot-coprehensive-guide
[3] https://accessorange.com/choosing-ai-copilot-vs-deepseek/?swcfpc=1
[4] https://www.reddit.com/r/cybersecurity/comments/1icxzb3/are_there_any_legitimate_security_concerns/
[5] https://blogs.cisco.com/security/evaluating-security-risk-in-deepseek-and--tero-frontier-razoning-models
[6] https://learn.microsoft.com/en-us/microsoft-copilot-studio/security-and-governance
[7] https://www.androidauthority.com/deepseek-vs-copilot-3520404/
[8] https://www.forcepoint.com/blog/insights/does-deepseek-save-data
[9] https://www.cshub.com/threat-defense/articles/cyber-security-implications-deepseek-ai
[10] https://www.accuknox.com/blog/security-risks-deepseek-r1-modelknox