GPT-4.5, kamuya açık verilerin bir karışımı, veri ortaklıklarından alınan tescilli veriler ve şirket içinde geliştirilen özel veri kümeleri dahil olmak üzere çeşitli veri kümesi üzerinde eğitilmiştir. Bu veri kümeleri, modelin sağlam konuşma yeteneklerine ve dünya bilgisine toplu olarak katkıda bulunur. Ancak, kullanılan tam veri kümeleri hakkında spesifik detaylar mevcut bilgilerde açıkça belirtilmemiştir.
Eğitim süreci, GPT-4O [1] [3] için kullanılanlara benzer şekilde, denetimli ince ayar (SFT) ve insan geri bildiriminden (RLHF) takviye öğrenimi gibi geleneksel yöntemlerle birleşmiş yeni denetim tekniklerini içermektedir. Modelin gelişimi, daha küçük modellerin daha büyük modeller için yüksek kaliteli eğitim verileri ürettiği ve modelin nüans anlayışını geliştirdiği ölçeklenebilir hizalama tekniklerini de içermektedir [7].
Openai'nin veri işleme boru hattı, veri kalitesini korumak ve potansiyel riskleri azaltmak için titiz filtreleme içerir. Modellerini eğitirken kişisel bilgilerin işlenmesini azaltmak için gelişmiş veri filtreleme işlemleri kullanırlar. Ayrıca, zararlı veya hassas içeriğin kullanımını önlemek için ılımlılık API'larının ve güvenlik sınıflandırıcılarının bir kombinasyonunu kullanırlar [1].
Kesin veri kümeleri ayrıntılı olmasa da, yaklaşım GPT-4.5'in daha az halüsinasyon ile pratik problemleri yazma, programlama ve çözme gibi görevlerdeki yeteneklerini desteklemek için geniş ve çeşitli bir veri temelini vurgulamaktadır [1] [3].
Alıntılar:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://towardsdatascience.com/what-gpt-4-brings-to-a-a-ftable-74e392a32ac3/
[3] https://www.lesswrong.com/posts/fqajgqcpmgehkoee6/openai-inates-gpt-4-5
[4] https://www.chatbase.co/blog/gpt-5
[5] https://www.wired.com/story/openai-gpt-45/
[6] https://www.datacamp.com/blog/Everthing-we-work-about-gpt-5
[7] https://www.vellum.ai/blog/gpt-4-5-is-here-how-good-this-model-
[8] https://arxiv.org/html/2404.07840v1