Cum afectează procesarea cloud a Gemeniului Securitatea Sandbox -ului versus Codex

***

Gemini's Cloud Processing and Sandbox Security

Google Gemini folosește o arhitectură de procesare AI bazată pe cloud în care calculele AI apar central pe infrastructura cloud Google. Această arhitectură permite utilizatorilor să ruleze cod, cum ar fi scripturile Python, într-un mediu Sandbox, conceput pentru a izola execuția și pentru a preveni riscurile la nivelul întregului sistem. Sandbox-ul Gemini este construit folosind tehnologia Google Gvisor, un nucleu întărit de spațiu de utilizator care izolează execuția codului prin filtrarea Syscall și permisiuni stricte.

Mecanismul de sandboxing din Gemeni este sofisticat, permițând executarea arbitrară a codului Python, limitând în același timp capacitățile de rețea și sistem de fișiere pentru a reduce riscurile de exfiltrare a datelor sau acces neautorizat. Cu toate acestea, cercetătorii de securitate au descoperit că, în timp ce scăparea tradițională a cutiei de nisip sunt dificile, există încă riscuri sub formă de scurgeri de informații în mediul de nisip în sine. De exemplu, cercetătorii au reușit să extragă binare interne și părți din codul proprietar al Google din Sandbox -ul Gemini, exploatând posibilitatea de a citi fișiere mari rupte în bucăți mici din ieșirile cutiei de nisip. Astfel, în timp ce Sandbox limitează comunicarea externă, nu elimină complet riscurile de dezvăluire a informațiilor din activele interne la care se poate accesa mediul sandbox.

Gemeni implementează în continuare securitate cu mai multe straturi cu controale cu granulație fină, cum ar fi restricționarea scanărilor complete ale sistemului de fișiere de către instrumentul Gemini CLI, necesitând consimțământul explicit al utilizatorului pentru accesul la fișiere și sandboxing chiar și în mediile locale folosind containere Docker sau mecanisme de nisip specifice sistemului de operare (cum ar fi centura de siguranță pe macOS). Această abordare stratificată combină Sandboxing Cloud cu personalizarea locală de Sandbox pentru a limita operațiunile agentului AI la contexte și fișiere aprobate, reducând expunerea accidentală sau rău intenționată.

***

Caracteristici de securitate și guvernarea datelor

GEMINI oferă diferite niveluri: o versiune de bază și o ediție „avansată” care vizează nevoile întreprinderii cu caracteristici stricte de securitate și conformitate. Versiunea avansată extinde securitatea prin integrarea cu politicile de guvernare a datelor corporative, sprijinind respectarea reglementărilor precum GDPR și HIPAA și permițând controlul organizațional asupra rezidenței de date și jurnal de audit.

Criptarea în Gemeni protejează datele atât în ​​repaus, cât și în tranzit. Versiunile avansate adaugă politici de criptare end-to-end și prevenirea pierderilor de date (DLP) care controlează modul în care datele sunt partajate, accesate și dacă conținutul sensibil este procesat deloc de AI. Caracteristici precum Managementul drepturilor de informare (IRM) împiedică acțiuni precum copierea, imprimarea sau descărcarea fișierelor sensibile, ceea ce reduce posibilitatea de a accesa sau expune date protejate în timpul procesării.

***

Comparație cu securitatea Sandbox -ului Codex

În timp ce detaliile tehnice specifice despre securitatea Sandbox -ului Codex sunt acoperite mai puțin pe larg în datele preluate, unele observații generale pot fi făcute pe baza modelelor de securitate în uz comun de către astfel de sisteme AI și controale de securitate Codex cunoscute.

Codex, modelul de generare a codului AI de OpenAI, funcționează de obicei cu restricții asemănătoare cu Sandbox atunci când executați sau sugerați cod. Se bazează pe execuții locale sau de cloud, cu aprobări și permisiuni ale utilizatorilor pentru a modula riscul. Modelul de securitate al Codex include moduri de control care necesită consimțământul utilizatorului înainte de a-i efectua pe cod automat sau de a modifica fișierele, asemănătoare cu sistemul de aprobare prompt al utilizatorului Gemini.

În special, Gemini CLI notifică în mod deschis utilizatorii atunci când trec de la un mod numai pentru citire sau doar pentru sugestii în moduri care permit executarea sau modificările fișierelor, oferind transparență în operațiuni potențial riscante. Sunt prezente controale similare, inclusiv execuția bazată pe Sandbox prin containere, asigurând rularea codului în medii izolate pentru a reduce riscurile de compromisuri ale sistemului.

Atât Gemenii, cât și Codex se confruntă cu provocări ale atacurilor de injecție promptă de încercări de a păcăli sistemele AI în rularea unor comenzi neintenționate sau rău intenționate. Aceste vulnerabilități nu sunt complet rezolvate doar prin Sandboxing, deoarece decurg din natura interpretativă a AI și a intrărilor utilizatorilor, subliniind nevoia de controale vigilente ale utilizatorilor și monitorizare continuă.

***

Implicații practice pentru securitatea Sandbox

Cloud Sandbox de la Gemini asigură că execuția codului este izolată de componentele critice ale sistemului folosind filtrarea syscall și gestionarea descriptorului de fișiere. Cu toate acestea, Sandbox -ul este conectat la instrumentele de backend prin conducte RPC și Comunicații ProtoBuf, oferindu -i o acoperire funcțională controlată, dar extinsă. Acest design acordă prioritate interfațării sigure cu serviciile externe, dar introduce complexitatea în cazul în care escaladarea privilegiilor sau scurgerile de date neintenționate ar putea apărea dacă validarea intrării sau controalele de canal sunt compromise.

Natura procesării cloud implică faptul că datele partajate cu Gemini sunt transmise serverelor Google pentru procesare. Acest lucru prezintă considerente de confidențialitate, deoarece orice date gestionate de AI sunt supuse politicilor de confidențialitate ale Google și securității cloud generalizate, dar nu neapărat pe deplin sub controlul local al utilizatorului. Unele organizații atenuează acest lucru folosind straturi suplimentare locale de sandboxing, cum ar fi containerele Docker sau Firejail pentru a limita domeniul de aplicare al accesului CLI Gemini în mediile locale.

În schimb, cazurile de utilizare ale Codex subliniază adesea integrarea în mediile dezvoltatorilor cu controale de mod granular pentru permisiunile de execuție a codului. Ambele sisteme se bazează foarte mult pe conștientizarea utilizatorilor și consimțământul explicit pentru operațiuni sensibile, dar Gemeni pare să sublinieze controalele de securitate stratificate adaptate pentru scenariile de implementare a întreprinderilor, inclusiv urmărirea conformității și jurnalul de audit.

***

Rezumatul punctelor cheie

- Sandboxing-ul Gemini folosește Google Gvisor, care oferă o izolare la nivel de syscall pentru a executa în siguranță codul de Python arbitrar în cloud, minimizând riscul de rupere, dar susceptibil la riscurile de scurgere a datelor interne, dacă binarele sau fișierele interne mari sunt accesibile. **

- Guvernarea datelor în Gemini Advanced include criptarea în repaus/în tranzit, cadre de conformitate a întreprinderii, politici DLP și jurnale de audit, îmbunătățind postura de securitate dincolo de protecțiile de bază. **

- Gemini CLI adaugă consimțământul utilizatorilor cu mai multe straturi și controale de nisip (de exemplu, Docker, OS Sandboxing) la nivel local, prevenind fișierul neintenționat sau execuția comenzii, în timp ce prelucrează în continuare interogări AI pe infrastructura Google Cloud.

- Securitatea Sandbox Codex împărtășește asemănările în protocoalele de consimțământ și în modurile de execuție containerizate, dar detaliile despre izolarea completă a procesului de backend sunt mai puțin documentate public. **

- Ambele sisteme se confruntă cu provocări din cauza injecțiilor prompte și a riscurilor privilegiate/de exfiltrare pe care singurele sandboxing nu pot fi atenuate pe deplin, necesitând o guvernare completă a securității. **

- Modelul de procesare a cloudului Gemini permite capacități puternice de AI, dar necesită monitorizare integrată, conexiuni SIEM și gestionarea automată a permisiunilor pentru a menține securitatea în scenarii de întreprindere. **