As informações recuperadas abrangem vários aspectos do processamento em nuvem do Google Gemini, segurança de sandbox e recursos de segurança relacionados, incluindo algumas comparações com aspectos da abordagem do Codex no sandboxing e permissões. A explicação detalhada a seguir é baseada nos dados coletados.
***
Processamento em nuvem de Gêmeos e Segurança de Sandbox
O Google Gemini emprega uma arquitetura de processamento de IA baseada em nuvem, onde os cálculos de IA ocorrem centralmente na infraestrutura em nuvem do Google. Essa arquitetura permite que os usuários executem código, como scripts Python, dentro de um ambiente de caixa de areia projetado para isolar a execução e evitar riscos em todo o sistema. A caixa de areia de Gêmeos é construída usando a tecnologia Gvisor do Google, um kernel de espaço de usuário endurecido que isola a execução do código por meio de filtragem Syscall e permissões rigorosas.
O mecanismo de sandboxing em Gêmeos é sofisticado, permitindo a execução do código Python arbitrário, limitando os recursos de rede e sistema de arquivos para reduzir os riscos de exfiltração de dados ou acesso não autorizado. No entanto, os pesquisadores de segurança descobriram que, embora as escapadas tradicionais de sandbox sejam difíceis, ainda existem riscos na forma de vazamento de informações no próprio ambiente de sandbox. Por exemplo, os pesquisadores conseguiram extrair binários internos e partes do código proprietário do Google da caixa de areia de Gêmeos, explorando a capacidade de ler grandes arquivos divididos em pequenos pedaços nas saídas da caixa de areia. Assim, enquanto a caixa de areia limita a comunicação externa, ela não elimina completamente os riscos de divulgação de informações de ativos internos que o ambiente da caixa de areia pode acessar.
Gemini implementa ainda mais a segurança de várias camadas com controles de refrigeração fina, como restringir as varreduras completas do sistema de arquivos pela ferramenta CLI Gemini, exigindo consentimento explícito do usuário para acessos de arquivo e caixa de areia mesmo em ambientes locais usando contêineres do Docker ou mecanismos de caixa de areia específicos (como o cinto de segurança no macOS). Essa abordagem em camadas combina a caixa de areia em nuvem com a personalização local da caixa de areia para limitar as operações do agente de IA a contextos e arquivos aprovados, reduzindo a exposição acidental ou maliciosa de dados.
***
Recursos de segurança e governança de dados
Gêmeos oferece diferentes níveis: uma versão base e uma edição "avançada", direcionada às necessidades corporativas com recursos rigorosos de segurança e conformidade. A versão avançada estende a segurança, integrando -se às políticas de governança de dados corporativos, apoiando a conformidade com regulamentos como GDPR e HIPAA e permitindo o controle organizacional sobre a residência de dados e o log de auditoria.
A criptografia em Gêmeos protege os dados em repouso e em trânsito. Versões avançadas Adicionar políticas de criptografia de ponta e perda de dados (DLP) que controlam como os dados são compartilhados, acessados e se o conteúdo sensível é processado pela IA. Recursos como Gerenciamento de Direitos de Informação (IRM) impedem ações como copiar, imprimir ou baixar arquivos sensíveis, o que reduz a possibilidade de Gemini acessando ou expondo dados protegidos durante o processamento.
***
Comparação com a segurança de sandbox do Codex
Embora detalhes técnicos específicos sobre a segurança da caixa de areia do Codex sejam mais extensivamente abordados nos dados recuperados, algumas observações gerais podem ser feitas com base nos modelos de segurança em uso comum por sistemas de IA e controles conhecidos de segurança do Codex.
O Codex, o modelo de geração de código da AI pelo OpenAI, normalmente opera com restrições semelhantes a sandbox ao executar ou sugerir código. Ele depende de execuções locais ou baseadas em nuvem com aprovações e permissões de usuários para modular o risco. O modelo de segurança do Codex inclui modos de controle que exigem o consentimento do usuário antes de executar o código de execução automática ou modificar arquivos, semelhante ao sistema de aprovação do prompt de Gemini.
Notavelmente, a CLI Gemini notifica abertamente os usuários ao passar de um modo somente leitura ou somente sugestão em modos que permitem a execução ou alterações de arquivo, fornecendo transparência em operações potencialmente arriscadas. Controles semelhantes, incluindo a execução baseada em sandbox através de contêineres, estão presentes, garantindo que o código seja executado em ambientes isolados para diminuir os riscos do sistema.
Tanto a Gêmeos quanto o Codex enfrentam desafios de ataques de injeção rápidos de enganar os sistemas de IA a executar comandos não intencionais ou maliciosos. Essas vulnerabilidades não são totalmente solucionáveis puramente através da caixa de areia porque resultam da natureza interpretativa das entradas de IA e do usuário, enfatizando a necessidade de controles de usuário vigilantes e monitoramento contínuo.
***
Implicações práticas para segurança de sandbox
A caixa de areia em nuvem de Gêmeos garante que a execução do código seja isolada dos componentes críticos do sistema usando a filtragem Syscall e o gerenciamento do descritor de arquivos. No entanto, a caixa de areia é conectada às ferramentas de back -end através de tubos RPC e comunicações do Protobuf, oferecendo alcance funcional controlado, mas extenso. Esse design prioriza a interface segura com serviços externos, mas introduz a complexidade em que a escalada de privilégios ou vazamentos de dados não intencionais podem ocorrer se a validação de entrada ou os controles de canal forem comprometidos.
A natureza do processamento em nuvem implica que os dados compartilhados com Gemini são transmitidos aos servidores do Google para processamento. Isso representa considerações de privacidade, pois quaisquer dados tratados pela IA estão sujeitos às políticas de privacidade do Google e à segurança generalizada da nuvem, mas não necessariamente totalmente sob o controle local do usuário. Algumas organizações mitigam isso usando camadas de sandbox local adicionais, como Docker ou FireJail, para limitar o escopo do acesso da CLI Gemini em ambientes locais.
Por outro lado, os casos de uso do Codex geralmente enfatizam a integração em ambientes de desenvolvedor com controles de modo granular para permissões de execução de código. Ambos os sistemas dependem fortemente da conscientização do usuário e dos consentimentos explícitos para operações sensíveis, mas Gêmeos parece enfatizar os controles de segurança em camadas adaptados para cenários de implantação corporativa, incluindo rastreamento de conformidade e log de auditoria.
***
Resumo dos principais pontos
- O Sandboxing de Gêmeos usa o Gvisor do Google, que fornece isolamento no nível do syscall para executar o código Python arbitrário com segurança dentro da nuvem, minimizando o risco de fuga, mas suscetível aos riscos de vazamento de dados internos se grandes binários internos ou arquivos forem acessíveis. **
- A governança de dados em Gemini Advanced inclui criptografia no REST/em trânsito, estruturas de conformidade corporativa, políticas de DLP e registros de auditoria, melhorando a postura de segurança além das proteções básicas. **
- O CLI Gemini adiciona controles de consentimento de usuário e caixa de areia em várias camadas (por exemplo, Docker, Sandboxing) localmente, impedindo a execução de arquivo ou comando não intencional, enquanto ainda processava consultas de IA no Google Cloud Infrastructure. **
- O Sandbox Security da Codex compartilha semelhanças em protocolos de consentimento e modos de execução em contêiner, mas detalhes sobre seu isolamento de processamento de back -end completo são menos documentados publicamente. **
- Ambos os sistemas enfrentam desafios de injeções rápidas e riscos de insider/exfiltração que o sandboxing por si só não pode mitigar completamente, exigindo governança de segurança abrangente. **
- O modelo de processamento em nuvem de Gêmeos permite recursos poderosos de IA, mas requer monitoramento integrado, conexões SIEM e gerenciamento de permissão automatizado para manter a segurança em cenários corporativos. **
Essa visão geral abrangente ressalta como as tecnologias de processamento e caixa de areia em nuvem da Gêmeos fornecem mecanismos de segurança robustos, mas não à prova de falhas, avançando além de modelos tradicionais como o Codex em segurança, governança e integração de conformidade focados em empresas, mas ainda enfrentam desafios de segurança da plataforma de IA inerentes.