DeepSeek-R1과 Gloo Gateway에서 Passthrough Auth 시스템이 어떻게 작동합니까?

Passthrough Auth의 개요

Gloo Gateway의 Passthrough 인증을 통해 Gloo에 직접 통합 할 필요없이 외부 인증 서비스를 활용할 수 있습니다. 이는 유연성을 유지하고 각 GLOO 버전 업데이트와 함께 플러그인을 다시 컴파일 할 필요가 없다는 데 유리합니다 [1] [4].

패스 스루 인증 유형

Gloo Gateway는 두 가지 주요 유형의 패스 스루 인증을 지원합니다.

1. GRPC Passthrough Auth : Envoy의 권한 부여 서비스 API를 구현하는 외부 GRPC 서비스를 사용하는 것이 포함됩니다. OIDC 또는 API 키와 같은 다른 GLOO 게이트웨이 인증 메커니즘을 사용하면서 외부 서비스에서 사용자 정의 로직을 허용합니다 [1] [4].

2. HTTP Passthrough Auth :이 방법은 인증을 위해 외부 HTTP 서비스를 사용합니다. GRPC와 유사한 이점을 제공하지만 대신 HTTP 프로토콜을 사용합니다 [1] [8].

DeepSeek-R1로 패스 스루 인증 구현

DeepSeek-R1을 Gloo Gateway와 통합 할 때는 Passthrough 인증을 사용하여 API 키를 직접 노출시키지 않고도 모델에 대한 액세스를 보장 할 수 있습니다. 여기에서 구현하는 방법 :

구현 단계

1. 외부 인증 서비스 설정 : 인증 요청을 처리 할 외부 인증 서비스 (GRPC 또는 HTTP)를 만듭니다. 이 서비스는 DeepSeek-R1에 액세스하기 위해 자격 증명 또는 토큰을 검증 할 수 있어야합니다.

2. Gloo Gateway 구성 : Gloo Gateway의 'AuthConfig`를 사용하여 외부 인증 서비스를 가리 킵니다. GRPC의 경우 GRPC 서비스의 주소를 지정하고 HTTP의 경우 HTTP Auth 서버의 URL을 제공합니다 [4] [8].

3. 인증 구성 적용 : Kubernetes를 사용하여 인증 구성을 Gloo Gateway에 적용하십시오. 여기에는 패스 스루 인증 설정을 지정하는 'authconfig'리소스를 작성하는 것이 포함됩니다 [4] [8].

4. 경로 요청 : 외부 서비스에 의한 성공적인 인증 후에 만 ​​DeepSeek-R1 로의 경로 요청을 Gloo Gateway를 구성합니다. 이를 통해 무단 요청이 차단되도록합니다.

혜택 및 고려 사항

- 혜택 : Passthrough 인증을 통해 Gloo Gateway 자체를 수정하지 않고 사용자 정의 인증 로직을 허용합니다. 또한 사용자 정의 논리와 함께 OIDC와 같은 여러 인증 방법을 동시에 지원합니다 [1] [6].

- 고려 사항 : Passthrough Auth는 유연성을 제공하지만 추가 네트워크 홉을 도입하여 대기 시간을 증가시킬 수 있습니다. 또한 외부 서비스에 실패하거나 시간이 소요되는 경우,

DeepSeek-R1의 보안

DeepSeek-R1을 사용할 때는 민감한 데이터를 보호하고 준수를 보장하는 데 강력한 보안 조치를 구현하는 것이 중요합니다. Gloo Gateway의 패스 스루 인증은 다음과 같이 도움을 줄 수 있습니다.

- 액세스 보안 : 보안 인증 메커니즘을 사용하여 승인 된 요청 만 DeepSeek-R1에 도달하는지 확인하십시오.
- 데이터 보호 : DeepSeek-R1에서 보내고받은 데이터를 모니터링하고 제어하기위한 추가 가드 레일을 구현하여 민감한 정보가 손상되지 않도록합니다 [2] [5].

Gloo Gateway의 Passthrough 인증 기능을 활용하면 액세스 및 데이터 흐름에 대한 제어를 유지하면서 DeepSeek-R1을 응용 프로그램에 안전하게 통합 할 수 있습니다.

인용 :
[1] https://docs.solo.io/gloo-edge/latest/guides/security/auth/extauth/passthrough_auth/
[2] https://www.solo.io/blog/navigating-deepseek-r1-security-concerns-and-guardrails
[3] https://devops-scanner.com
[4] https://docs.solo.io/gloo-edge/latest/guides/security/auth/extauth/passthrough_auth/grpc/
[5] https://www.bigdatawire.com/this-just-in/solo- releases-gloo-ai-gateway-to-optimize-ai-deployment-and-governance-controls/
[6] https://docs.solo.io/gloo-mesh-gateway/main/security/external-auth/passthrough/
[7] https://www.solo.io/resources/video/demo-video-video-deepseek-r1-security-concerns-and-guardrails
[8] https://docs.solo.io/gloo-edge/latest/guides/security/auth/extauth/passthrough_auth/http/
[9] https://www.together.ai/models/deepseek-r1