Η μείωση των ποσοστών ψευδαίσθησης της GPT-5 αποδίδεται τόσο στις μεθοδολογίες της κατάρτισης των δεδομένων όσο και στις προηγμένες μεθοδολογίες κατάρτισης. Η OpenAI ανέφερε ανοιχτά ότι οι αποκρίσεις GPT-5 είναι έως και 45% λιγότερο πιθανό να περιέχουν πραγματικά σφάλματα σε σύγκριση με το GPT-4O και με την προχωρημένη λειτουργία "λογικής", τα πραγματικά σφάλματα μειώνονται κατά περίπου 80% σε σχέση με το προηγούμενο μοντέλο O3. Η καταστολή των ψευδαισθήσεων στο GPT-5 δεν είναι το αποτέλεσμα ενός ενιαίου συνόλου δεδομένων, αλλά μιας εκλεπτυσμένης διαδικασίας συναρμολόγησης δεδομένων, φιλτράρισμα, συνεχούς μετά την κατάρτιση με ανθρώπινη ανατροφοδότηση και ενσωμάτωση εξωτερικών πραγματικών πόρων ελέγχου.
Στρατηγική ποιότητας και επιμέλειας δεδομένων
Ο πρώτος πυλώνας του OpenAI κατά των ψευδαισθήσεων στο GPT-5 είναι η χρήση εκτεταμένων, υψηλής ποιότητας και επιμελημένων συνόλων δεδομένων. Αυτό σημαίνει:
- Τα δεδομένα πηγής είναι πιο πιθανό να επαληθευτούν και να αξιοποιηθούν.
- Καταβάλλονται σαφείς προσπάθειες για την κατάργηση ή την ελαχιστοποίηση των γνωστών αναξιόπιστων, προκατειλημμένων ή κακόβουλων περιεχομένων κατά τη διάρκεια της προ-κατάρτισης και κατά τη διάρκεια των κύκλων ανανέωσης δεδομένων.
-Τα δεδομένα που έχουν συμβάλει από το χρήστη φιλτράρονται, ανώνυμα και εξετάζονται για τη φήμη πριν από την ένταξη στην εποπτευόμενη μοντελοποίηση της τελειοποίησης ή της ανταμείβοντας.
Για να μειωθεί περαιτέρω ο κίνδυνος ψευδαισθήσεων, η OpenAI έχει αναπτύξει εκτεταμένες διαδικασίες καθαρισμού δεδομένων για τον εντοπισμό και τον αποκλεισμό του θορυβώδους, του αντιφατικού ή του συνθετικού περιεχομένου που θα μπορούσε να προκαλέσει σφάλματα στις εξόδους του μοντέλου.
μετά την κατάρτιση και ενίσχυση από την ανθρώπινη ανατροφοδότηση (RLHF)
Η ανθρώπινη ανατροφοδότηση είναι κεντρική στην αρχιτεκτονική της GPT-5. Το μοντέλο υφίσταται εντατικούς γύρους ενίσχυσης της μάθησης από την ανθρώπινη ανατροφοδότηση (RLHF), στους οποίους οι ανθρώπινοι βαθμολογητές:
- Ο δικαστής εκροές για πραγματική ορθότητα, συνοχή και ευθυγράμμιση με την πρόθεση του χρήστη.
- Παρέχετε ζευγαρωτικές προτιμήσεις στις γενιές μοντέλων, ανταμείβοντας την ακρίβεια και την ενημερωτικότητα, ενώ παράλληλα τιμωρεί τις ψευδαισθήσεις.
- Αυτά τα σήματα αποτελούν τη βάση για μοντέλα ανταμοιβής που βελτιστοποιούν περαιτέρω το GPT-5 για να προτιμούν τις πραγματικές διορθώσεις.
Επιπλέον, το RLHF ενισχύεται από αυτοματοποιημένους μαθητές που επικυρώθηκαν κατά της ανθρώπινης κρίσης για την κλιμάκωση της ανίχνευσης ψευδαισθήσεων. Αυτοί οι γκρέιντερ εξυπηρετούν τόσο ως ποσοτικό κριτήριο στις αξιολογήσεις όσο και ως συστατικό της συνεχούς εκπαίδευσης, επιτρέποντας μεγάλης κλίμακας βρόχους ταχείας ανάδρασης πέρα από τον αποκλειστικό σχολιασμό.
Αξιολόγηση δείκτες αναφοράς και δοκιμών άγχους
Για τη μέτρηση των ψευδαισθήσεων, το GPT-5 είναι αυστηρά δοκιμασμένο από το άγχος σε νέα σημεία αναφοράς δημόσιων και εσωτερικών σειρών όπως το Longfact (έννοιες και αντικείμενα) και το FactScore (προτροπές αναζήτησης γεγονότων). Το πλαίσιο αξιολόγησης στοχεύει σε σκληρότερες, ανοιχτές προτροπές και περιεχόμενο μεγάλης μορφής, περιοχές στις οποίες οι παραισθήσεις άνθισαν προηγουμένως. Σύμφωνα με την OpenAI, η "GPT-5 Thinking" παράγει περίπου έξι φορές λιγότερες ψευδαισθήσεις από το O3 σε αυτά τα καθήκοντα.
Το GPT-5 αξιολογείται επίσης σε πραγματική παραγωγή παραγωγής και εξειδικευμένα σύνολα δοκιμών, όπου η ικανότητά του να παραδέχεται σωστά τα κενά της γνώσης και να αποφύγει τις κατασκευές μετράται και βελτιώνεται άμεσα. Για παράδειγμα, η άρνηση του μοντέλου να εφεύρει ανύπαρκτα περιουσιακά στοιχεία σε πολυτροπικές ρυθμίσεις έχει βελτιωθεί σημαντικά σε σύγκριση με προηγούμενες γενιές.
Αρχιτεκτονικές και εκπαιδευτικές παρεμβάσεις
Αρκετές βαθύτερες παρεμβάσεις κατά τη διάρκεια της εκπαίδευσης -στόχοι ψευδαισθήσεις:
-Η προτροπή και η δομημένη συλλογιστική αλυσίδα και δομημένες συλλογιστικές είναι ενσωματωμένες σε φάσεις προ-κατάρτισης και τελειοποίησης, επιτρέποντας στο μοντέλο να παράγει πιο εξηγούμενες και γειωμένες εξόδους και όχι αυτοπεποίθηση εικασίες.
-Το πρότυπο ασφαλούς ολοκλήρωσης αντικαθιστά το μοντέλο ασφαλείας που βασίζεται σε παλαιότερη άρνηση, κατάρτιση GPT-5 για να παρέχει χρήσιμες, οριοθετημένες απαντήσεις ή να μεταδίδει διαφανώς τα όριά του και τη συλλογιστική του όταν δεν μπορεί να απαντήσει με ασφάλεια.
-Η χρήση εργαλείων και η παραγωγή ανάκτησης (RAG): Η GPT-5 εκπαιδεύεται συστηματικά για να αξιοποιήσει την αναζήτηση στο διαδίκτυο και τα εξωτερικά εργαλεία ελέγχου των γεγονότων για ερωτήματα που απαιτούν ενημερωμένες ή ιδιαίτερα ειδικές γνώσεις. Αυτό μειώνει δραστικά τον κίνδυνο ψευδαισθήσεων σε σκοτεινά ή ταχέως εξελισσόμενα θέματα.
- Μείωση του Sycophancy: Ο αγωγός Curation της GPT-5 συγκεντρώνει ρητά τα δεδομένα που έχουν σχεδιαστεί για να παγιδεύουν τα μοντέλα σε σφάλματα συμφωνίας, να σημειώνουν απαντήσεις για τη συκοφαντία και να χρησιμοποιούν αυτές τις βαθμολογίες ως αρνητική ανταμοιβή κατά τη διάρκεια του RLHF, άμεσα επιτίθενται στην ψευδαίσθηση με το πρόβλημα της συμφωνίας.
Αποτελέσματα και περιορισμοί πραγματικού κόσμου
Παρά τις προόδους αυτές, το GPT-5 δεν είναι πλήρως ανοσοποιητικό σε ψευδαισθήσεις. Για παράδειγμα:
-Το αναφερόμενο ποσοστό ψευδαισθήσεων για σύνθετα, ανοιχτά καθήκοντα (που μετράται με σημεία αναφοράς όπως το απλό QA) παραμένει σημαντικά, ειδικά όταν το σύστημα αποκοπεί από τα εργαλεία ελέγχου ζωντανών γεγονότων.
- Η πρόσβαση στην αναζήτηση ιστού μειώνει σημαντικά τα ποσοστά σφάλματος, απεικονίζοντας τη σημασία της υβριδικής εκπαίδευσης (συνδυάζοντας στατικά επιμελημένα δεδομένα με ανάκτηση) σε μετριαστικές ψευδαισθήσεις.
- Ορισμένες δημιουργικές ή αφηρημένες προτροπές συνεχίζουν να αμφισβητούν τους μηχανισμούς γείωσης του συστήματος.
Συνεχές ενημερώσεις και ανατροφοδότηση της κοινότητας
Το σύστημα της GPT-5 τροφοδοτείται συνεχώς δεδομένα κοινότητας και πραγματικού χρήστη, με μηχανισμούς ανάδρασης που επιτρέπουν την ταχεία επιδιόρθωση των ανακαλυφθέντων ψευδαισθήσεων και την ανάπτυξη των βελτιώσεων τόσο στο φιλτράρισμα δεδομένων όσο και στο σχεδιασμό της λειτουργίας ανταμοιβής. Το OpenAI αναγνωρίζει ανοιχτά την ανάγκη για περαιτέρω βελτίωση, ειδικά σε τομείς υψηλού σταδίου όπως η υγειονομική περίθαλψη και ο νόμος, όπου η ανοχή σφάλματος πρέπει να είναι ελάχιστη.
Περίληψη των βασικών βημάτων επιμέλειας
Για να συνθέσουμε, η μείωση των ψευδαισθήσεων στο GPT-5 προκύπτει από τις ακόλουθες αλληλοσυνδεόμενες διαδικασίες:
1. Εξέλιξη και φιλτράρισμα σχολαστικών προ-κατάρτισης, με έμφαση στην προμήθεια από αξιόπιστες βάσεις δεδομένων και τη διατήρηση ενημερωμένου πραγματικού περιεχομένου.
2. Αποκλεισμός θορυβώδους, αναξιόπιστου ή προκατειλημμένου περιεχομένου κατά τη διάρκεια της συναρμολόγησης δεδομένων, ενισχυμένο με αυτοματοποιημένη και χειροκίνητη ανασκόπηση σε πολλαπλά στάδια.
3. Μάθηση ενίσχυσης και συνεχής ανατροφοδότηση βασισμένη σε μεγάλης κλίμακας ανθρώπινη και αυτοματοποιημένη ταξινόμηση για την πραγματικότητα και την ειλικρίνεια.
4. Αξιολόγηση έναντι ισχυρών δεικτών αναφοράς, τόσο στατικού όσο και πραγματικού κόσμου, μετρώντας τον ακριβή ρυθμό και τον τύπο των ψευδαισθήσεων υπό διάφορες συνθήκες.
5.
6. Επαναληπτικός ζωντανός συντονισμός από την ανατροφοδότηση της παραγωγής και την κόκκινη ομάδα, εξασφαλίζοντας ότι οι νέες διαρροές παραισθήσεων ανιχνεύονται γρήγορα και αντιμετωπίζονται.