GPT-4.5 werd getraind op een gevarieerde set datasets, waaronder een mix van openbaar beschikbare gegevens, eigen gegevens van data-partnerschappen en aangepaste datasets die intern zijn ontwikkeld. Deze datasets dragen gezamenlijk bij aan de robuuste conversatiemogelijkheden en wereldkennis van het model. Specifieke details over de exacte gebruikte datasets worden echter niet expliciet genoemd in de beschikbare informatie.
Het trainingsproces omvatte nieuwe supervisietechnieken in combinatie met traditionele methoden zoals begeleide verfijning (SFT) en versterking leren van menselijke feedback (RLHF), vergelijkbaar met die welke worden gebruikt voor GPT-4O [1] [3]. De ontwikkeling van het model omvatte ook schaalbare uitlijningstechnieken, waarbij kleinere modellen van hoogwaardige trainingsgegevens genereren voor grotere modellen, waardoor de stuurbaarheid en het begrip van het model van nuance wordt verbeterd [7].
De gegevensverwerkingspijplijn van OpenAI omvat rigoureuze filtering om de gegevenskwaliteit te handhaven en potentiële risico's te beperken. Ze maken gebruik van geavanceerde gegevensfilteringsprocessen om de verwerking van persoonlijke informatie te verminderen bij het trainen van hun modellen. Bovendien gebruiken ze een combinatie van hun moderatie -API en veiligheidsclassificaties om het gebruik van schadelijke of gevoelige inhoud te voorkomen [1].
Hoewel de exacte datasets niet gedetailleerd zijn, benadrukt de aanpak een brede en diverse data-basis ter ondersteuning van de mogelijkheden van GPT-4.5 in taken zoals schrijven, programmeren en het oplossen van praktische problemen met minder hallucinaties [1] [3].
Citaten:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://towardsdatascience.com/what-gpt-4-brings-t-the-ai-table-74e392a32ac3/
[3] https://www.lesswrong.com/posts/fqajgqcpmgehkoee6/openai-releases-gpt-4-5
[4] https://www.chatbase.co/blog/gpt-5
[5] https://www.wired.com/story/openai-gpt-45/
[6] https://www.datacamp.com/blog/verything-We-know-about-gpt-5
[7] https://www.vellum.ai/blog/gpt-4-5-is-here-heres-how-good- this-model-is
[8] https://arxiv.org/html/2404.07840v1