Πώς επηρεάζει η επεξεργασία του cloud του Gemini έναντι του Codex

***

Επεξεργασία σύννεφων Gemini και Sandbox Security

Η Google Gemini χρησιμοποιεί μια αρχιτεκτονική επεξεργασίας AI με βάση το σύννεφο όπου οι υπολογισμοί AI εμφανίζονται κεντρικά στην υποδομή σύννεφων της Google. Αυτή η αρχιτεκτονική επιτρέπει στους χρήστες να εκτελούν κώδικα, όπως τα σενάρια Python, μέσα σε ένα περιβάλλον sandboxed που έχει σχεδιαστεί για να απομονώσει την εκτέλεση και να αποτρέψει τους κινδύνους σε ολόκληρο το σύστημα. Το Sandbox της Gemini είναι κατασκευασμένο χρησιμοποιώντας την τεχνολογία GVISOR της Google, έναν σκληρό πυρήνα χώρου χρήστη που απομονώνει την εκτέλεση κώδικα μέσω φιλτραρίσματος Syscall και αυστηρών δικαιωμάτων.

Ο μηχανισμός sandboxing στο Gemini είναι εξελιγμένος, επιτρέποντας την αυθαίρετη εκτέλεση κώδικα Python, περιορίζοντας τις δυνατότητες του δικτύου και του συστήματος αρχείων για τη μείωση των κινδύνων εξάπλωσης δεδομένων ή μη εξουσιοδοτημένης πρόσβασης. Ωστόσο, οι ερευνητές της ασφάλειας ανακάλυψαν ότι ενώ οι παραδοσιακές διαφυγές Sandbox είναι δύσκολες, εξακολουθούν να υπάρχουν κίνδυνοι με τη μορφή διαρροής πληροφοριών στο ίδιο το περιβάλλον sandbox. Για παράδειγμα, οι ερευνητές κατόρθωσαν να εξαγάγουν εσωτερικά δυαδικά αρχεία και τμήματα του ιδιόκτητου κώδικα της Google από το Sandbox της Gemini, εκμεταλλευόμενοι τη δυνατότητα να διαβάζουν μεγάλα αρχεία που έχουν σπάσει σε μικρά κομμάτια μέσα στις εξόδους sandbox. Έτσι, ενώ το sandbox περιορίζει την εξωτερική επικοινωνία, δεν εξαλείφει πλήρως τους κινδύνους γνωστοποίησης πληροφοριών από τα εσωτερικά περιουσιακά στοιχεία που μπορεί να έχει πρόσβαση στο περιβάλλον sandboxed.

Ο Δίδυμος εφαρμόζει περαιτέρω την ασφάλεια πολλαπλών επιπέδων με λεπτά ελέγχου, όπως ο περιορισμός των σαρώσεων του συστήματος πλήρους αρχείων από το εργαλείο Gemini CLI, απαιτώντας ρητή συγκατάθεση χρήστη για πρόσβαση αρχείων και sandboxing ακόμη και σε τοπικά περιβάλλοντα χρησιμοποιώντας δοχεία Docker ή μηχανισμούς sandboxing για το OS (όπως η Satbelt στο MacOS). Αυτή η στρωμένη προσέγγιση συνδυάζει το cloud sandboxing με την τοπική προσαρμογή του sandbox για να περιορίσει τις λειτουργίες AI Agent σε εγκεκριμένα περιβάλλοντα και αρχεία, μειώνοντας την τυχαία ή κακόβουλη έκθεση σε δεδομένα.

***

Χαρακτηριστικά ασφαλείας και διακυβέρνηση δεδομένων

Ο Gemini προσφέρει διαφορετικά επίπεδα: μια βασική έκδοση και μια "προηγμένη" έκδοση που στοχεύει τις ανάγκες των επιχειρήσεων με αυστηρές λειτουργίες ασφάλειας και συμμόρφωσης. Η προηγμένη έκδοση επεκτείνει την ασφάλεια ενσωματώνοντας τις πολιτικές διακυβέρνησης των εταιρικών δεδομένων, υποστηρίζοντας τη συμμόρφωση με κανονισμούς όπως το GDPR και το HIPAA και επιτρέποντας τον οργανωτικό έλεγχο της διαμονής δεδομένων και της καταγραφής ελέγχου.

Η κρυπτογράφηση στο Δίδυμο προστατεύει τα δεδομένα τόσο σε ηρεμία όσο και σε διαμετακόμιση. Οι προχωρημένες εκδόσεις προσθέτουν πολιτικές κρυπτογράφησης από άκρο σε άκρο και πρόληψη απώλειας δεδομένων (DLP) που ελέγχουν τον τρόπο με τον οποίο τα δεδομένα μοιράζονται, έχουν πρόσβαση και αν το ευαίσθητο περιεχόμενο επεξεργάζεται καθόλου από το AI. Χαρακτηριστικά όπως η Διαχείριση Δικαιωμάτων Πληροφόρησης (IRM) αποτρέπουν ενέργειες όπως η αντιγραφή, η εκτύπωση ή η λήψη ευαίσθητων αρχείων, γεγονός που μειώνει τη δυνατότητα πρόσβασης σε δίδυμους ή εκθέσεις προστατευμένων δεδομένων κατά τη διάρκεια της επεξεργασίας.

***

Σύγκριση με την ασφάλεια Sandbox της Codex

Ενώ οι συγκεκριμένες τεχνικές λεπτομέρειες σχετικά με την ασφάλεια του Codex's Sandbox καλύπτονται λιγότερο από τα ανακτηθέντα δεδομένα, μερικές γενικές παρατηρήσεις μπορούν να γίνουν με βάση τα μοντέλα ασφαλείας σε κοινή χρήση από αυτά τα συστήματα AI και τους γνωστούς ελέγχους ασφαλείας Codex.

Το Codex, το μοντέλο δημιουργίας κώδικα AI από το OpenAI, συνήθως λειτουργεί με περιορισμούς που μοιάζουν με sandbox κατά την εκτέλεση ή την πρόταση κώδικα. Βασίζεται σε τοπικές ή εκτελέσεις με βάση το σύννεφο με εγκρίσεις και δικαιώματα χρήστη για τη ρύθμιση του κινδύνου. Το μοντέλο ασφαλείας του Codex περιλαμβάνει τρόπους ελέγχου που απαιτούν συγκατάθεση χρήστη πριν από τον κωδικό αυτόματης εκτέλεσης ή την τροποποίηση αρχείων, παρόμοιο με το σύστημα έγκρισης του χρήστη του Gemini.

Συγκεκριμένα, το Gemini CLI ειδοποιεί ανοιχτά τους χρήστες όταν μετακινείται από μια λειτουργία μόνο για ανάγνωση ή μόνο πρότασης σε τρόπους που επιτρέπουν την εκτέλεση ή τις αλλαγές αρχείου, παρέχοντας διαφάνεια σε δυνητικά επικίνδυνες λειτουργίες. Παρόμοιοι έλεγχοι, συμπεριλαμβανομένης της εκτέλεσης με βάση το sandbox μέσω δοχείων, είναι παρόντες, εξασφαλίζοντας ότι οι κώδικες εκτελούνται σε απομονωμένα περιβάλλοντα για τη μείωση των κινδύνων συμβιβασμού του συστήματος.

Τόσο ο Gemini όσο και ο Codex αντιμετωπίζουν προκλήσεις από τις επιθέσεις άμεσης ένεσης από τις προσπάθειες να εξαπατήσουν τα συστήματα AI να τρέξουν ακούσιες ή κακόβουλες εντολές. Αυτά τα τρωτά σημεία δεν είναι πλήρως διαλυτά αποκλειστικά μέσω του sandboxing, επειδή προέρχονται από την ερμηνευτική φύση των εισροών AI και των χρηστών, υπογραμμίζοντας την ανάγκη για επαγρύπνηση ελέγχου χρήστη και συνεχούς παρακολούθησης.

***

Πρακτικές συνέπειες για την ασφάλεια sandbox

Το Cloud Sandbox της Gemini εξασφαλίζει ότι η εκτέλεση κώδικα απομονώνεται από τα κρίσιμα συστατικά του συστήματος χρησιμοποιώντας τη διαχείριση του φιλτράρισμα Syscall και του περιγραφικού αρχείου. Ωστόσο, το sandbox είναι συνδεδεμένο με εργαλεία backend μέσω των σωλήνων RPC και των επικοινωνιών Protobuf, δίνοντάς του ελεγχόμενη αλλά εκτεταμένη λειτουργική εμβέλεια. Αυτός ο σχεδιασμός δίνει προτεραιότητα στην ασφαλή διασύνδεση με εξωτερικές υπηρεσίες, αλλά εισάγει πολυπλοκότητα όπου μπορεί να προκύψει κλιμάκωση προνομίων ή ακούσιες διαρροές δεδομένων εάν διακυβεύονται τα χειριστήρια εισόδου ή τα χειριστήρια καναλιών.

Η φύση της επεξεργασίας σύννεφων υποδηλώνει ότι τα δεδομένα που μοιράζονται με τη Gemini μεταδίδονται στους διακομιστές της Google για επεξεργασία. Αυτό δημιουργεί εκτιμήσεις απορρήτου, καθώς όλα τα δεδομένα που χειρίζεται το AI υπόκεινται στις πολιτικές απορρήτου της Google και γενικευμένη ασφάλεια σύννεφων, αλλά όχι απαραίτητα πλήρως υπό τον τοπικό έλεγχο του χρήστη. Ορισμένοι οργανισμοί μετριάζουν αυτό χρησιμοποιώντας πρόσθετα τοπικά στρώματα sandboxing, όπως δοχεία Docker ή Firejail για να περιορίσουν το πεδίο εφαρμογής της πρόσβασης του Gemini CLI σε τοπικά περιβάλλοντα.

Αντίθετα, οι περιπτώσεις χρήσης του Codex υπογραμμίζουν συχνά την ενσωμάτωση σε περιβάλλοντα προγραμματιστών με ελέγχους λεπτομερειών λειτουργιών για δικαιώματα εκτέλεσης κώδικα. Και τα δύο συστήματα βασίζονται σε μεγάλο βαθμό στη συνειδητοποίηση των χρηστών και στις ρητές συγκαταθέσεις για ευαίσθητες λειτουργίες, αλλά ο Δίδυμος φαίνεται να δίνει έμφαση στους στρωματοποιημένους ελέγχους ασφαλείας προσαρμοσμένου για σενάρια ανάπτυξης των επιχειρήσεων, συμπεριλαμβανομένης της παρακολούθησης της συμμόρφωσης και της καταγραφής ελέγχου.

***

Περίληψη των βασικών σημείων

- Το Sandboxing του Gemini χρησιμοποιεί το GVISOR της Google, το οποίο παρέχει απομόνωση σε επίπεδο syscall για να εκτελέσει με ασφάλεια αυθαίρετο κώδικα Python εντός του σύννεφου, ελαχιστοποιώντας τον κίνδυνο ξεμπλοκάρισμα, αλλά είναι επιρρεπής σε κίνδυνο διαρροής εσωτερικών δεδομένων εάν είναι προσβάσιμα μεγάλα εσωτερικά δυαδικά δυαδικά αρχεία ή αρχεία.

- Η διακυβέρνηση των δεδομένων στο Gemini Advanced περιλαμβάνει κρυπτογράφηση κατά τη διαμετακόμιση, τα πλαίσια συμμόρφωσης με τις επιχειρήσεις, τις πολιτικές DLP και τα αρχεία καταγραφής ελέγχου, τη βελτίωση της στάσης ασφαλείας πέρα ​​από τις βασικές προστασίες.

- Το Gemini CLI προσθέτει σε τοπικό επίπεδο το AI, ενώ εξακολουθεί να επεξεργάζεται τα ερωτήματα AI στην υποδομή Google Cloud. **

- Η ασφάλεια Sandbox της Codex μοιράζεται ομοιότητες σε πρωτόκολλα συγκατάθεσης και τρόπους εκτέλεσης με εμπορευματοκιβώτια, αλλά οι λεπτομέρειες για την πλήρη απομόνωση επεξεργασίας του backend είναι λιγότερο δημοσίων τεκμηριωμένες. **

- Και τα δύο συστήματα αντιμετωπίζουν προκλήσεις από τις άμεσες ενέσεις και τους κινδύνους από το εμπιστευτικό/εξαίρεση, οι οποίοι από μόνο του sandboxing δεν μπορούν να μετριάσουν πλήρως, απαιτώντας ολοκληρωμένη διακυβέρνηση της ασφάλειας. **

- Το μοντέλο επεξεργασίας σύννεφων του Gemini επιτρέπει ισχυρές δυνατότητες AI, αλλά απαιτεί ολοκληρωμένη παρακολούθηση, συνδέσεις SIEM και αυτοματοποιημένη διαχείριση δικαιωμάτων για τη διατήρηση της ασφάλειας σε σενάρια επιχειρήσεων. **