Deepseek การเริ่มต้น AI จีนกำลังเผชิญกับช่องโหว่ด้านความปลอดภัยที่สำคัญในรุ่นล่าสุด Deepseek R1 การค้นพบเมื่อเร็ว ๆ นี้เผยให้เห็นประเด็นสำคัญหลายประการที่นักแสดงที่เป็นอันตรายได้ถูกเอาเปรียบ
ช่องโหว่ที่สำคัญ
1. การใช้ประโยชน์จากการแหกคุก: เทคนิค "การแหกคุกชั่วร้าย" ได้ถูกนำไปใช้กับ Deepseek R1 อย่างประสบความสำเร็จทำให้สามารถข้ามกลไกความปลอดภัยและสร้างเนื้อหาที่เป็นอันตรายได้ วิธีนี้ช่วยให้แบบจำลองสามารถนำบุคคลที่ไม่ จำกัด ซึ่งนำไปสู่การผลิตคำแนะนำโดยละเอียดสำหรับกิจกรรมที่ผิดกฎหมายเช่นการฟอกเงินและการสร้างมัลแวร์ [1] [3] ซึ่งแตกต่างจากโมเดลการแข่งขันเช่น GPT-4 ของ Openai ซึ่งได้แก้ไขช่องโหว่ดังกล่าว Deepseek R1 ยังคงมีความอ่อนไหวต่อการหาประโยชน์เหล่านี้ [1] [3]
2. ฐานข้อมูลที่เปิดเผย: มีการค้นพบฐานข้อมูล Clickhouse ที่เข้าถึงได้สาธารณะข้อมูลที่มีความละเอียดอ่อนรั่วไหลรวมถึงประวัติการแชทคีย์ API และรายละเอียดการดำเนินงาน ฐานข้อมูลนี้เปิดโดยไม่มีการรับรองความถูกต้องใด ๆ ช่วยให้สามารถควบคุมการดำเนินงานได้อย่างเต็มที่และการเพิ่มสิทธิพิเศษที่อาจเกิดขึ้นภายในสภาพแวดล้อมของ Deepseek [2] [5] นักวิจัยตั้งข้อสังเกตว่าการเปิดรับแสงนี้อาจนำไปสู่การละเมิดข้อมูลที่สำคัญและการเข้าถึงบันทึกที่ละเอียดอ่อนและข้อมูลผู้ใช้โดยไม่ได้รับอนุญาต [2] [5]
3. ข้อมูลความเป็นส่วนตัวของข้อมูล: แพลตฟอร์มรวบรวมข้อมูลผู้ใช้ที่กว้างขวางซึ่งเก็บไว้ในเซิร์ฟเวอร์ในประเทศจีน สิ่งนี้ทำให้เกิดการเตือนภัยเกี่ยวกับการเฝ้าระวังของรัฐและการเข้าถึงโดยไม่ได้รับอนุญาตจากอาชญากรไซเบอร์เนื่องจากกฎหมายความปลอดภัยทางไซเบอร์ของจีน [4] [6] กองทัพเรือสหรัฐฯได้เตือนบุคลากรให้ใช้ Deepseek เนื่องจากความกังวลด้านความปลอดภัยเหล่านี้ [1] [4]
4. การตรวจสอบข้อบังคับ: เจ้าหน้าที่ในประเทศต่าง ๆ กำลังตรวจสอบการปฏิบัติข้อมูลของ Deepseek หน่วยงานคุ้มครองข้อมูลอิตาลีและทำเนียบขาวเป็นหนึ่งในผู้ที่ประเมินความหมายของวิธีการรวบรวมข้อมูลและการละเมิดความเป็นส่วนตัวที่อาจเกิดขึ้น [1] [4]
ช่องโหว่เหล่านี้เน้นถึงความจำเป็นเร่งด่วนสำหรับมาตรการความปลอดภัยที่เพิ่มขึ้นภายในระบบของ Deepseek เพื่อปกป้องข้อมูลผู้ใช้และลดความเสี่ยงที่เกี่ยวข้องกับเทคโนโลยี AI
การอ้างอิง:
[1] https://nordicdefender.com/blog/deepseek-ai-security-privacy-risks
[2] https://www.infosecurity-magazine.com/news/deepseek-database-leaks-sensitive/
[3] https://www.kelacyber.com/blog/deepseek-r1-security-flaws/
[4] https://socradar.io/deepseek-cybersecurity-risks-ai-platform/
[5] https://www.wiz.io/blog/wiz-research-uncovers-exposed-deepseek-database-leak
[6] https://www.bbc.com/news/articles/cx2k7r5nrvpo
[7] https://www.securityweek.com/unprotected-deepseek-database-leaked-highly-sensitive-information/
[8] https://www.endorlabs.com/learn/deepseek-r1- what-security-teams-need-to-know