Το GPT-4.5 εκπαιδεύτηκε σε ένα διαφορετικό σύνολο συνόλων δεδομένων, συμπεριλαμβανομένου ενός συνδυασμού διαθέσιμων δεδομένων, ιδιόκτητων δεδομένων από εταιρικές σχέσεις δεδομένων και προσαρμοσμένων συνόλων δεδομένων που αναπτύχθηκαν στο σπίτι. Αυτά τα σύνολα δεδομένων συμβάλλουν συλλογικά στις ισχυρές δυνατότητες συνομιλίας του μοντέλου και στις παγκόσμιες γνώσεις. Ωστόσο, συγκεκριμένες λεπτομέρειες σχετικά με τα ακριβή σύνολα δεδομένων που χρησιμοποιούνται δεν αναφέρονται ρητά στις διαθέσιμες πληροφορίες.
Η διαδικασία κατάρτισης περιελάμβανε νέες τεχνικές εποπτείας σε συνδυασμό με παραδοσιακές μεθόδους όπως η εποπτευόμενη τελειοποίηση (SFT) και η ενίσχυση της μάθησης από την ανθρώπινη ανατροφοδότηση (RLHF), παρόμοια με εκείνα που χρησιμοποιούνται για το GPT-4O [1] [3]. Η ανάπτυξη του μοντέλου περιελάμβανε επίσης κλιμακούμενες τεχνικές ευθυγράμμισης, όπου τα μικρότερα μοντέλα δημιουργούν δεδομένα εκπαίδευσης υψηλής ποιότητας για μεγαλύτερα μοντέλα, ενισχύοντας την κατευθυντικότητα και την κατανόηση της απόχρωσης του μοντέλου [7].
Ο αγωγός επεξεργασίας δεδομένων της OpenAI περιλαμβάνει αυστηρό φιλτράρισμα για τη διατήρηση της ποιότητας των δεδομένων και τον μετριασμό των πιθανών κινδύνων. Χρησιμοποιούν προηγμένες διαδικασίες φιλτραρίσματος δεδομένων για να μειώσουν την επεξεργασία προσωπικών πληροφοριών κατά την εκπαίδευση των μοντέλων τους. Επιπλέον, χρησιμοποιούν ένα συνδυασμό API μετριοπάθειας και ταξινομητές ασφαλείας για να αποτρέψουν τη χρήση επιβλαβούς ή ευαίσθητου περιεχομένου [1].
Ενώ τα ακριβή σύνολα δεδομένων δεν είναι λεπτομερή, η προσέγγιση δίνει έμφαση σε ένα ευρύ και διαφορετικό θεμέλιο δεδομένων για να υποστηρίξει τις δυνατότητες του GPT-4.5 σε καθήκοντα όπως η γραφή, ο προγραμματισμός και η επίλυση πρακτικών προβλημάτων με λιγότερες ψευδαισθήσεις [1] [3].
Αναφορές:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://towardsdatascience.com/what-gpt-4-inging-to-the-ai-74e392a32ac3/
[3] https://www.lesswrong.com/posts/fqajgqcpmgehkoee6/openai-releases-gpt-4-5
[4] https://www.chatbase.co/blog/gpt-5
[5] https://www.wired.com/story/openai-gpt-45/
[6] https://www.datacamp.com/blog/everything-we-know-about-gpt-5
[7] https://www.vellum.ai/blog/gpt-4-5-is-here-heres-how-good-this-model-is
[8] https://arxiv.org/html/2404.07840v1