Gloo GatewayのPassthrough認証システムは、外部サービスによってリクエストを認証できるように設計されています。これは、DeepSeek-R1などのモデルと統合する場合に特に役立ちます。これがどのように機能しますか:
Passthrough Authの概要
Gloo GatewayのPassthrough認証を使用すると、Glooに直接統合する必要なく、外部認証サービスを活用できます。これは、柔軟性を維持し、各Glooバージョンの更新[1] [4]でプラグインを再コンパイルする必要性を回避するのに有益です。
##パススルー認証の種類
Gloo Gatewayは、2つの主要なタイプのパススルー認証をサポートしています。
1。GRPCPassthrough Auth:これには、Envoyの承認サービスAPIを実装する外部GRPCサービスの使用が含まれます。 OIDCやAPIキーなどの他のGloo Gateway認証メカニズムを利用しながら、外部サービスのカスタムロジックが可能になります[1] [4]。
2。HTTPPassthrough Auth:この方法では、認証に外部HTTPサービスを使用します。 GRPCに同様の利点を提供しますが、代わりにHTTPプロトコルを使用します[1] [8]。
deepseek-r1を使用したパススルーAUTHの実装
DeepSeek-R1をGloo Gatewayと統合する場合、APIキーを直接露出せずに、Passthrough認証を使用してモデルへのアクセスを保護できます。ここにあなたがそれを実装する方法:
###実装の手順
1.外部認証サービスを設定する:認証要求を処理する外部認証サービス(GRPCまたはHTTP)を作成します。このサービスは、DeepSeek-R1にアクセスするために資格情報またはトークンを検証できる必要があります。
2。Gloo Gatewayの構成:Gloo Gatewayの「authconfig」を使用して、外部認証サービスを指します。 GRPCの場合、GRPCサービスのアドレスを指定し、HTTPにはHTTP Auth Server [4] [8]のURLを提供します。
3.認証構成を適用:Kubernetesを使用して、認証構成をGloo Gatewayに適用します。これには、パススルー認証設定[4] [8]を指定する「authconfig」リソースの作成が含まれます。
4。ルートリクエスト:外部サービスによる認証が成功した後にのみ、glooゲートウェイをdeepseek-r1にルーティングするように構成します。これにより、不正なリクエストがブロックされることが保証されます。
###利点と考慮事項
- 利点:Passthrough認証は、Gloo Gateway自体を変更せずにカスタム認証ロジックを可能にします。また、Custom Logic [1] [6]とともにOIDCなど、複数の認証方法を同時にサポートしています。
- 考慮事項:Passthrough Authは柔軟性を提供しますが、追加のネットワークホップを導入します。これにより、遅延が増加します。さらに、外部サービスが失敗またはタイムアウトした場合、「FailureModeallow」を「True」に設定することにより、Glooを「開く」ように構成でき、認証が失敗した場合でもリクエストが続行できるようにします[4] [8]。
deepseek-r1のセキュリティ
DeepSeek-R1を使用する場合、機密データを保護し、コンプライアンスを確保するために、堅牢なセキュリティ対策を実装することが重要です。 Gloo Gatewayのパススルー認証は次のように支援できます。
- アクセスの保護:安全な認証メカニズムを使用して、認定要求のみがDeepSeek-R1に到達することを確認してください。
- データ保護:DeepSeek-R1から送信および受信したデータを監視および制御するための追加のガードレールを実装して、機密情報が損なわれないようにします[2] [5]。
Gloo Gatewayのパススルー認証機能を活用することにより、アクセスとデータフローの制御を維持しながら、DeepSeek-R1をアプリケーションに安全に統合できます。
引用:
[1] https://docs.solo.io/gloo-edge/latest/guides/security/auth/extauth/passthrough_auth/
[2] https://www.solo.io/blog/navigating-deepseek-r1-security-concerns-and-guardrails
[3] https://devops-scanner.com
[4] https://docs.solo.io/gloo-edge/latest/guides/security/auth/extauth/passthrough_auth/grpc/
[5] https://www.bigdatawire.com/this-justin/solo-io-io-reeases-gloo-ai-ai-gateway-to-optimize-ai-deployment-and-ensure-governance-controls/
[6] https://docs.solo.io/gloomesh-gateway/main/security/external-auth/passthrough/
[7] https://www.solo.io/resources/video/demo-video-navigating-deepseek-r1-security-concerns-and-guardrails
[8] https://docs.solo.io/gloo-edge/latest/guides/security/auth/extauth/passthrough_auth/http/
[9] https://www.together.ai/models/deepseek-r1