ระบบการรับรองความถูกต้องของ Passthrough ทำงานอย่างไรใน Gloo Gateway กับ Deepseek-R1

ภาพรวมของ Passthrough Auth

การรับรองความถูกต้องของ Passthrough ใน Gloo Gateway ช่วยให้คุณสามารถใช้ประโยชน์จากบริการตรวจสอบภายนอกภายนอกโดยไม่จำเป็นต้องรวมเข้ากับ GLOO โดยตรง สิ่งนี้มีประโยชน์สำหรับการรักษาความยืดหยุ่นและหลีกเลี่ยงความจำเป็นในการคอมไพล์ปลั๊กอินใหม่ด้วยการอัปเดตรุ่น GLOO แต่ละครั้ง [1] [4]

ประเภทของการรับรองความถูกต้อง

Gloo Gateway รองรับการตรวจสอบความถูกต้องสองประเภทหลัก:

1. GRPC Passthrough Auth: สิ่งนี้เกี่ยวข้องกับการใช้บริการ GRPC ภายนอกที่ใช้ API บริการการอนุญาตของ Invoy อนุญาตให้ใช้ตรรกะที่กำหนดเองในบริการภายนอกในขณะที่ยังคงใช้กลไกการรับรองความถูกต้องของเกตเวย์ Gloo อื่น ๆ เช่นปุ่ม OIDC หรือ API [1] [4]

2. HTTP Passthrough Auth: วิธีนี้ใช้บริการ HTTP ภายนอกสำหรับการตรวจสอบความถูกต้อง มันให้ประโยชน์ที่คล้ายกันกับ GRPC แต่ใช้โปรโตคอล HTTP แทน [1] [8]

การใช้งานการรับรองความถูกต้องด้วย DeepSeek-R1

เมื่อรวม Deepseek-R1 เข้ากับ Gloo Gateway คุณสามารถใช้การรับรองความถูกต้องของ passthrough เพื่อรักษาความปลอดภัยการเข้าถึงโมเดลโดยไม่ต้องเปิดเผยปุ่ม API โดยตรง นี่คือวิธีที่คุณจะนำไปใช้:

ขั้นตอนสำหรับการใช้งาน

1. ตั้งค่าบริการรับรองความถูกต้องภายนอก: สร้างบริการการตรวจสอบภายนอกภายนอก (ไม่ว่าจะเป็น GRPC หรือ HTTP) ที่จะจัดการคำขอการรับรองความถูกต้อง บริการนี้ควรมีความสามารถในการตรวจสอบความถูกต้องของข้อมูลรับรองหรือโทเค็นสำหรับการเข้าถึง Deepseek-R1

2. กำหนดค่า Gloo Gateway: ใช้ `authconfig` ของ Gloo Gateway เพื่อชี้ไปที่บริการตรวจสอบภายนอกของคุณ สำหรับ GRPC ให้ระบุที่อยู่ของบริการ GRPC และสำหรับ HTTP ให้ URL ของเซิร์ฟเวอร์ HTTP Auth [4] [8]

3. ใช้การกำหนดค่าการรับรองความถูกต้อง: ใช้ kubernetes เพื่อใช้การกำหนดค่าการรับรองความถูกต้องกับเกตเวย์ Gloo สิ่งนี้เกี่ยวข้องกับการสร้างทรัพยากร `authconfig` ที่ระบุการตั้งค่าการรับรองความถูกต้อง passthrough [4] [8]

4. คำขอเส้นทาง: กำหนดค่า GLOO GATEWAY เพื่อขอเส้นทางไปยัง DEEPSEEK-R1 หลังจากการรับรองความถูกต้องโดยบริการภายนอกที่ประสบความสำเร็จ สิ่งนี้ทำให้มั่นใจได้ว่าคำขอที่ไม่ได้รับอนุญาตจะถูกบล็อก

ผลประโยชน์และข้อควรพิจารณา

- ประโยชน์: การรับรองความถูกต้องของ Passthrough ช่วยให้ตรรกะการตรวจสอบความถูกต้องแบบกำหนดเองโดยไม่ต้องปรับเปลี่ยนเกตเวย์ Gloo เอง นอกจากนี้ยังรองรับวิธีการรับรองความถูกต้องหลายวิธีพร้อมกันเช่น OIDC พร้อมกับตรรกะที่กำหนดเอง [1] [6]

- ข้อควรพิจารณา: ในขณะที่ Passthrough Auth ให้ความยืดหยุ่น แต่ก็แนะนำเครือข่าย Hop เพิ่มเติมซึ่งสามารถเพิ่มเวลาแฝง นอกจากนี้หากบริการภายนอกล้มเหลวหรือหมดเวลา GLOO สามารถกำหนดค่าให้ล้มเหลว "เปิด" โดยการตั้งค่า `failureModeAllow` เป็น` true 'ช่วยให้คำขอดำเนินการต่อไปแม้ว่าการตรวจสอบจะล้มเหลว [4] [8]

ความปลอดภัยด้วย Deepseek-R1

เมื่อใช้ Deepseek-R1 การใช้มาตรการรักษาความปลอดภัยที่แข็งแกร่งเป็นสิ่งสำคัญในการปกป้องข้อมูลที่ละเอียดอ่อนและให้แน่ใจว่ามีการปฏิบัติตาม การรับรองความถูกต้องของ Gloo Gateway สามารถช่วยได้โดย:

- การรักษาความปลอดภัยการเข้าถึง: ตรวจสอบให้แน่ใจว่ามีเพียงคำขอที่ได้รับอนุญาตจะเข้าถึง DEEPSEEK-R1 โดยใช้กลไกการรับรองความถูกต้องที่ปลอดภัย
- การป้องกันข้อมูล: ใช้ guardrails เพิ่มเติมเพื่อตรวจสอบและควบคุมข้อมูลที่ส่งไปและรับจาก Deepseek-R1 เพื่อให้มั่นใจว่าข้อมูลที่ละเอียดอ่อนจะไม่ถูกบุกรุก [2] [5]

ด้วยการใช้ประโยชน์จากความสามารถในการตรวจสอบความถูกต้องของ Gloo Gateway คุณสามารถรวม Deepseek-R1 เข้ากับแอปพลิเคชันของคุณอย่างปลอดภัยในขณะที่ยังคงควบคุมการเข้าถึงและการไหลของข้อมูล

การอ้างอิง:
[1] https://docs.solo.io/gloo-edge/latest/guides/security/auth/extauth/passthrough_auth/
[2] https://www.solo.io/blog/navigating-deepseek-r1-security-concerns-and-uardrails
[3] https://devops-scanner.com
[4] https://docs.solo.io/gloo-edge/latest/guides/security/auth/extauth/passthrough_auth/grpc/
[5] https://www.bigdatawire.com/this-just-in/solo-io-releases-gloo-ai-gateway-to- optimize-ai-deployment-and-ensure-governance-controls/
[6] https://docs.solo.io/gloo-mesh-gateway/main/security/external-auth/passthrough/
[7] https://www.solo.io/resources/video/demo-video-navigating-deepseek-r1-security-concerns-and-uardrails
[8] https://docs.solo.io/gloo-edge/latest/guides/security/auth/extauth/passthrough_auth/http/
[9] https://www.together.ai/models/deepseek-r1