Získané informácie sa vzťahujú na viac aspektov cloudového spracovania spoločnosti Google Gemini, bezpečnosť pieskoviska a súvisiacich bezpečnostných funkcií vrátane niektorých porovnaní s aspektmi prístupu Codex v pieskovisku a povoleniach. Nasledujúce podrobné vysvetlenie je založené na zhromaždených údajoch.
***
Gemini's Cloud spracovanie a bezpečnosť pieskoviska
Google Gemini využíva architektúru spracovania AI založenú na cloude, kde sa výpočty AI vyskytujú centrálne na cloudovej infraštruktúre spoločnosti Google. Táto architektúra umožňuje používateľom spúšťať kód, napríklad skripty Python, v prostredí s pieskoviskom navrhnutým na izoláciu vykonávania a prevenciu rizík v celom systéme. Gemini's Sandbox je zostavený pomocou technológie GVisor spoločnosti Google, tvrdeného jadra používateľského priestoru, ktoré izoluje vykonávanie kódu prostredníctvom filtrovania syscall a prísnych povolení.
Mechanizmus karantény v Blížencoch je sofistikovaný, čo umožňuje ľubovoľné vykonanie kódu Pythonu a zároveň obmedzuje možnosti siete a súborového systému na zníženie rizika exfiltrácie údajov alebo neoprávneného prístupu. Vedci bezpečnosti však zistili, že zatiaľ čo tradičné úniky z karantény sú ťažké, riziká stále existujú vo forme úniku informácií v samotnom prostredí pieskoviska. Napríklad výskumným pracovníkom sa podarilo extrahovať interné binárne súbory a časti patentovaného kódu spoločnosti Google z Bemini's Sandboxu využitím schopnosti čítať veľké súbory rozdelené do malých kúskov v výstupoch v pieskovisku. Zatiaľ čo pieskovisko obmedzuje externú komunikáciu, úplne nevylučuje riziká zverejňovania informácií z vnútorných aktív, ku ktorým má prístup k pieskovisku.
Gemini ďalej implementuje viacvrstvovú bezpečnosť s jemnozrnnými ovládacími prvkami, ako je napríklad obmedzenie skenovania plného súborového systému pomocou nástroja Gemini CLI, vyžaduje explicitný súhlas používateľa pre prístup k súborom a pieskovisko aj v miestnych prostrediach pomocou kontajnerov Docker alebo mechanizmov pieskoviska špecifických pre OS (napríklad na bezpečnostných pásoch). Tento vrstvený prístup kombinuje cloudový pieskovisko s lokálnym prispôsobením pieskoviska, aby sa obmedzil operácie agentov AI na schválené kontexty a súbory, čím sa znížila náhodná alebo škodlivá expozícia dát.
***
Bezpečnostné funkcie a správa údajov o údajoch
Gemini ponúka rôzne úrovne: základná verzia a „pokročilé“ vydanie zacieľujúce na podnikové potreby s prísnymi funkciami zabezpečenia a dodržiavania predpisov. Pokročilá verzia rozširuje bezpečnosť integráciou s politikami riadenia podnikových údajov, podporou dodržiavania predpisov ako GDPR a HIPAA a umožnením organizačnej kontroly nad rezidenciou údajov a protokolovania auditov.
Šifrovanie v Blížencoch chráni údaje v pokoji aj pri tranzite. Pokročilé verzie pridávajú politiky END-to-END Encryption and Prevention Strata (DLP), ktoré kontrolujú spôsob zdieľania údajov, prístupu a či je citlivý obsah spracovaný AI vôbec. Funkcie, ako je správa informačných práv (IRM), bránia akciám, ako je kopírovanie, tlač alebo sťahovanie citlivých súborov, čo znižuje možnosť prístupu alebo odhalenia chránených údajov počas spracovania.
***
Porovnanie s bezpečnosťou pieskoviska Codex
Zatiaľ čo konkrétne technické podrobnosti o zabezpečení kaieskového skrinky Codex sú menej rozsiahle zahrnuté v získaných údajoch, niektoré všeobecné pozorovania sa dajú robiť na základe bezpečnostných modelov, ktoré sa bežne používajú, takýmito systémami AI a známymi bezpečnostnými ovládacími prvkami Codex.
Codex, model generovania kódu AI pomocou OpenAI, zvyčajne pracuje s obmedzeniami podobnými pieskovisku pri vykonávaní alebo navrhovaní kódu. Spolieha sa na miestne alebo cloudové vykonávania so schválením používateľov a povolení na moduláciu rizika. Bezpečnostný model Codex obsahuje riadiace režimy, ktoré si vyžadujú súhlas používateľa pred automatickým vykonávaním kódu alebo úpravami súborov, podobne ako so schvaľovacím systémom rýchleho schválenia používateľa spoločnosti Gemini.
Najmä Gemini CLI otvorene upozorňuje používateľov pri prechode z režimu iba na čítanie alebo iba na návrh do režimov, ktoré umožňujú vykonanie alebo zmeny súborov, čo poskytuje transparentnosť v potenciálne riskantných operáciách. Sú prítomné podobné ovládacie prvky vrátane vykonávania založených na pieskovisku prostredníctvom kontajnerov, čím sa zabezpečuje spustenie kódu v izolovaných prostrediach, aby sa znížili riziká kompromisu v systéme.
Blíženci a Codex čelia výzvam z pokusov o okamžité injekčné útoky, aby podviedli systémy AI, aby spustili nezamýšľané alebo škodlivé príkazy. Tieto zraniteľné miesta nie sú úplne riešiteľné výlučne čisto prostredníctvom pieskoviska, pretože pramenia z interpretačnej povahy AI a vstupov používateľov, pričom zdôrazňujú potrebu ostražitých ovládacích prvkov používateľov a nepretržitého monitorovania.
***
Praktické dôsledky pre bezpečnosť pieskoviska
Cloudový pieskovisko spoločnosti Gemini zaisťuje, že vykonanie kódu je izolované z kritických komponentov systému pomocou filtrovania SysCall a správy deskriptorov deskriptora súborov. Častín je však pripojený k spätným nástrojom prostredníctvom rúr RPC a komunikácií Protobuf, čo jej dáva kontrolovaný, ale rozsiahly funkčný dosah. Tento návrh uprednostňuje bezpečné prepojenie s externými službami, ale zavádza zložitosť, ak by sa mohlo vyskytnúť eskalácia privilégií alebo nezamýšľané úniky údajov, ak sa ohrozí ovládacie prvky vstupu alebo ovládacie prvky kanálov.
Povaha spracovania cloudu znamená, že údaje zdieľané s Gemini sa prenášajú na servery Google na spracovanie. To predstavuje úvahy o ochrane osobných údajov, pretože všetky údaje, ktoré spracúva AI, podliehajú zásadám ochrany osobných údajov spoločnosti Google a zovšeobecnené cloudové zabezpečenie, ale nie nevyhnutne úplne pod miestnou kontrolou používateľa. Niektoré organizácie to zmierňujú pomocou ďalších miestnych vrstiev pieskoviska, ako sú kontajnery Docker alebo Firejail, na obmedzenie rozsahu prístupu Gemini CLI v miestnych prostrediach.
Naopak, prípady použitia spoločnosti Codex často zdôrazňujú integráciu do prostredí vývojárov s ovládacími prvkami podrobného režimu pre povolenia na vykonávanie kódu. Oba systémy sa do značnej miery spoliehajú na povedomie používateľa a explicitné súhlasy s citlivými operáciami, zdá sa však, že Blíženci zdôrazňujú vrstvené bezpečnostné ovládacie prvky upravené pre scenáre podnikového nasadenia vrátane sledovania dodržiavania predpisov a protokolovania auditov.
***
Zhrnutie kľúčových bodov
- Blíženci z pieskoviska používa GVISOR spoločnosti Google, ktorý poskytuje izoláciu na úrovni SyScall na bezpečné vykonávanie ľubovoľného pythonového kódu v cloude, pričom minimalizuje riziko úniku, ale je náchylný na vnútorné riziká úniku údajov, ak sú prístupné veľké interné binárne súbory alebo súbory. **
- Správa údajov v Gemini Advanced Zahŕňa šifrovanie pri odpočinku/v tranzite, rámcoch podnikových dodržiavania predpisov, politík DLP a protokolov auditu, zlepšenie postoja zabezpečenia nad rámec základných ochrany. **
- Gemini CLI dodáva lokálne viacvrstvový súhlas používateľa a ovládacie prvky s pieskoviskom (napr. Docker, OS Sandboxing) lokálne, zabraňuje neúmyselnému spusteniu súboru alebo príkazu, pričom stále spracováva dotazy AI na infraštruktúre cloudu Google. .
- Security Security spoločnosti Codex zdieľa podobnosti v protokoloch o súhlase a režimoch vykonávania kontajnerov, ale podrobnosti o jej úplnom izolácii spracovania backend sú menej verejne zdokumentované. **
- Oba systémy čelia výzvam z pohotových injekcií a rizík zasvätených/exfiltrácií, ktoré samotné pieskovisko nemôže úplne zmierniť, čo si vyžaduje komplexné riadenie bezpečnosti. **
- Model spracovania cloudu Gemini umožňuje výkonné schopnosti AI, ale vyžaduje integrované monitorovanie, pripojenia SIEM a automatizované správy povolení na udržanie bezpečnosti v podnikových scenároch. **
Tento komplexný prehľad zdôrazňuje, ako technológie spracovania a pieskoviska spoločnosti Gemini poskytujú robustné, ale nie spoľahlivé bezpečnostné mechanizmy, ktoré postupujú nad rámec tradičných modelov, ako je Codex v podnikovej bezpečnosti, riadení a integrácii dodržiavania predpisov, napriek tomu čelia vlastným výzvam zabezpečenia platformy AI.