Το GPT-4.5 έχει αξιολογηθεί για την αποτελεσματικότητά της στην άμβλυνση των κινδύνων που σχετίζονται με τις χημικές, βιολογικές, ακτινολογικές και πυρηνικές απειλές και πειθώ. Ακολουθεί μια λεπτομερής επισκόπηση των δυνατοτήτων και των μετριασμών του:
κινδύνους CBRN
Το GPT-4.5 ταξινομείται ως μεσαίου κινδύνου για απειλές CBRN. Αυτή η ταξινόμηση βασίζεται σε αξιολογήσεις που αξιολογούν την ικανότητα του μοντέλου να βοηθήσει στον επιχειρησιακό σχεδιασμό της αναπαραγωγής γνωστών βιολογικών απειλών. Ωστόσο, ο κίνδυνος αυτός θεωρείται περιορισμένος επειδή βοηθά κυρίως εμπειρογνώμονες που έχουν ήδη σημαντική εμπειρογνωμοσύνη τομέα [1].
Για να μετριάσει τους κινδύνους CBRN, η GPT-4,5 χρησιμοποιεί αρκετές στρατηγικές:
- Μετρήσεις πριν από την κατάρτιση: Το μοντέλο φιλτράρει δεδομένα που σχετίζονται με τον πολλαπλασιασμό του CBRN που έχει περιορισμένη ή καθόλου νόμιμη χρήση. Αυτό βοηθά στη μείωση της έκθεσης του μοντέλου σε δυνητικά επικίνδυνες πληροφορίες [1].
- Μοντέλο ευρωστίας: Το GPT-4.5 έχει σχεδιαστεί για να αντέχει τους κακόβουλους και αντιφατικούς χρήστες βελτιώνοντας την ικανότητά του να αντισταθεί στη χειραγώγηση που σχετίζεται με απειλές CBRN [1].
- Παρακολούθηση και ανίχνευση: Καταβάλλονται ειδικές προσπάθειες για την παρακολούθηση και την ανίχνευση δραστηριοτήτων που σχετίζονται με τις εργασίες CBRN, εξασφαλίζοντας ότι οποιαδήποτε κατάχρηση προσδιορίζεται και αντιμετωπίζεται γρήγορα [1].
κινδύνους πειθούς
Το GPT-4.5 μεταφέρει επίσης τον προσδιορισμό μεσαίου κινδύνου για πειθώ. Αυτό οφείλεται στην υπερσύγχρονη απόδοση του στη δημιουργία πειστικού περιεχομένου, το οποίο θα μπορούσε να χρησιμοποιηθεί για να χειριστεί πεποιθήσεις ή ενέργειες [2].
Για να αντιμετωπίσει τους κινδύνους πειθούς, το GPT-4,5 ενσωματώνει τις ακόλουθες μετριασμούς:
- Εκπαίδευση για την ασφάλεια: Το μοντέλο υφίσταται ειδική κατάρτιση για να χειριστεί υπεύθυνα τα καθήκοντα πολιτικής πεποίθησης, με στόχο την πρόληψη της κατάχρησης για τον επηρεασμό ή τον χειρισμό της κοινής γνώμης [1].
- Παρακολούθηση επιρροών: Υπάρχει συνεχής παρακολούθηση και διερεύνηση ύποπτων καταχρήσεων που σχετίζονται με τις επιρροές, τον εξτρεμισμό και τις ακατάλληλες πολιτικές δραστηριότητες. Αυτό βοηθά στον εντοπισμό και τον μετριασμό των πιθανών κινδύνων πειθούς [1].
- Επανεξέταση αξιολογήσεων πειθούς: Η OpenAI επανεξετάζει την προσέγγισή του για την αξιολόγηση των κινδύνων πειθούς πραγματικού κόσμου, εστιάζοντας σε παράγοντες όπως η εξατομίκευση, η διανομή και η παρουσίαση του περιεχομένου με την πάροδο του χρόνου [2].
Συνολικά, ενώ η GPT-4.5 παρουσιάζει μεσαίους κινδύνους τόσο για το CBRN όσο και για την πειθώ, χρησιμοποιεί ένα ισχυρό σύνολο μετριασμών για την ελαχιστοποίηση αυτών των κινδύνων. Αυτές περιλαμβάνουν προηγμένο φιλτράρισμα, εκπαίδευση ασφαλείας και συνεχή παρακολούθηση για να διασφαλιστεί ότι το μοντέλο χρησιμοποιείται υπεύθυνα και με ασφάλεια.
Αναφορές:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://assets.ctfassets.net/kftzwdyauwt9/7eadv6oawhhxlaehuyu7db/64e9f7916d3581ba4b5d0f0a6c5098d1/gpt-4-5_system_card_2272025.pdf
[3] https://cenerforhealthsecurity.org/sites/default/files/2024-06/2024-06-02-jhchs-nist-ai-6001-rfc.pdf
[4] https://model-spec.openai.com
[5] https://www.reddit.com/r/chatgpt/comments/1iznoek/gpt45_system_card_mmlu_896/
[6] https://pmc.ncbi.nlm.nih.gov/articles/pmc10795998/
[7] https://openai.com/index/gpt-4-5-system-card/
[8] https://patriciagestoso.com/2024/05/21/openai-chatgpt-4o-the-ghood-the-bad-and-the- irresponsible/