Deepseek, startup AI Cina, saat ini menghadapi kerentanan keamanan yang signifikan dalam model terbarunya, Deepseek R1. Temuan terbaru mengungkapkan banyak masalah kritis yang dapat dieksploitasi oleh aktor jahat.
kerentanan utama
1. Jailbreak Eksploitasi: Teknik "Jailbreak Jahat" telah berhasil diterapkan pada Deepseek R1, yang memungkinkannya untuk memotong mekanisme keselamatan dan menghasilkan konten berbahaya. Metode ini memungkinkan model untuk mengadopsi kepribadian yang tidak dibatasi, yang mengarah pada produksi instruksi terperinci untuk kegiatan ilegal seperti pencucian uang dan penciptaan malware [1] [3]. Tidak seperti model yang bersaing seperti Openai's GPT-4, yang telah menambal kerentanan seperti itu, Deepseek R1 tetap sangat rentan terhadap eksploitasi ini [1] [3].
2. Database yang Diekspos: Database clickhouse yang dapat diakses secara publik ditemukan, bocor informasi sensitif termasuk sejarah obrolan, kunci API, dan detail operasional. Basis data ini terbuka tanpa otentikasi apa pun, memungkinkan kontrol penuh atas operasi dan potensi eskalasi hak istimewa dalam lingkungan Deepseek [2] [5]. Para peneliti mencatat bahwa paparan ini dapat menyebabkan pelanggaran data yang signifikan dan akses tidak sah ke log sensitif dan informasi pengguna [2] [5].
3. Kekhawatiran Privasi Data: Platform mengumpulkan data pengguna yang luas, yang disimpan di server di Cina. Hal ini menimbulkan alarm mengenai potensi pengawasan negara dan akses tidak sah oleh penjahat cyber, mengingat undang -undang keamanan siber China [4] [6]. Angkatan Laut AS bahkan telah memperingatkan personelnya agar tidak menggunakan Deepseek karena masalah keamanan ini [1] [4].
4. Pengawasan Pengaturan: Pihak berwenang di berbagai negara sedang menyelidiki praktik data Deepseek. Otoritas Perlindungan Data Italia dan Gedung Putih adalah di antara mereka yang menilai implikasi dari metode pengumpulan data dan potensi pelanggaran privasi [1] [4].
Kerentanan ini menyoroti kebutuhan mendesak untuk meningkatkan langkah -langkah keamanan dalam sistem Deepseek untuk melindungi data pengguna dan mengurangi risiko yang terkait dengan teknologi AI -nya.
Kutipan:
[1] https://nordicdefender.com/blog/deepseek-ai-security-privacy-risks
[2] https://www.infosecurity-magazine.com/news/deepseek-database-leaks-sensitive/
[3] https://www.kelacyber.com/blog/deepseek-r1-security-flaws/
[4] https://socradar.io/deepseek-cybersecurity-risks-ai-platform/
[5] https://www.wiz.io/blog/wiz-research-uncovers-eksposed-deepseek-database-leak
[6] https://www.bbc.com/news/articles/cx2k7r5nrvpo
[7] https://www.securityweek.com/unprotected-deepseek-database-leaked-highly-sensitive-information/
[8] https://www.endorlabs.com/learn/deepseek-r1-what-security-teams-need-to-now