Snížení míry halucinace GPT-5 je připisováno jak jejím kurátorským datům, tak pro pokročilé metody školení. OpenAI otevřeně uvedl, že odpovědi GPT-5 jsou až o 45% méně pravděpodobné, že budou obsahovat faktické chyby ve srovnání s GPT-4O, a s jeho pokročilým režimem „uvažování“ klesnou faktické chyby ve srovnání s předchozím modelem O3 o asi 80%. Potlačení halucinací v GPT-5 není výsledkem jediného datového souboru, ale sofistikovaným procesem sestavení datového souboru, filtrování, nepřetržitého post tréninku s lidskou zpětnou vazbou a integrací externích faktických kontrolních prostředků.
Strategie kvality a kurátoru dat
Prvním pilířem OpenAI proti halucinacím v GPT-5 je použití rozšířených, vysoce kvalitních a kurátorských datových souborů. To znamená:
- Zdrojová data budou s větší pravděpodobností ověřena a renomovatelná.
- Vyvíjí se výslovné úsilí o odstranění nebo minimalizaci známého nespolehlivého, zkresleného nebo škodlivého obsahu během předškolního a během cyklů obnovy dat.
-Údaje o připojení uživatele jsou filtrována, anonymizována a zkoumána pro fakticitu před zařazením do modelování jemného doladění nebo odměny.
Aby se dále snížilo riziko halucinace, OpenAI nasadila rozsáhlé procesy čištění dat k identifikaci a vyloučení hlučného, protichůdného nebo syntetického obsahu, který by mohl vyvolat chyby ve výstupních výstupech.
Post-trénink a posílení z lidské zpětné vazby (RLHF)
Lidská zpětná vazba je ústřední v architektuře GPT-5. Model podléhá intenzivním kolům učení zesílení z lidské zpětné vazby (RLHF), ve kterých lidské krysy:
- Soudce výstupy pro faktickou správnost, koherenci a sladění s úmyslem uživatele.
- Poskytněte párové preference o generacích modelu, odměňování přesnosti a informativity při penalizaci halucinací.
- Tyto signály tvoří základ pro modely odměn, které dále optimalizují GPT-5, aby upřednostňovaly fakticky korektní dokončení.
Kromě toho je RLHF rozšířen o automatizovanou srovnávači fakticky ověřených proti lidskému úsudku, aby se rozšiřovala detekce halucinací. Tyto srovnávače slouží jak jako kvantitativní měřítko při hodnocení, tak jako součást neustálého tréninku, což umožňuje rozsáhlé a rychlé zpětné vazbě nad rámec pouze lidské anotace.
Vyhodnocování benchmarků a stresových testů
Pro měření halucinací je GPT-5 přísně testován na stres na nových veřejných a vnitřních faktických benchmarcích, jako je longfakt (koncepty a předměty) a fakta (výzvy hledající fakt). Hodnotící rámec se zaměřuje na těžší, otevřené výzvy a obsah s dlouhými formami, což je oblasti, ve kterých halucinace dříve vzkvétaly. Podle OpenAI, „GPT-5 Thinking“ produkuje přibližně šestkrát méně halucinací než O3 v těchto úkolech.
GPT-5 je také hodnocen v reálném provozu a specializovaném testovacím sadách, kde se přímo měří a zlepšuje se jeho schopnost správně připustit mezery v znalostech a vyhnout se výrobě. Například odmítnutí modelu vymýšlet neexistující aktiva v multimodálních prostředích se výrazně zlepšila ve srovnání s dřívějšími generacemi.
Architektonické a tréninkové intervence
Několik hlubších zásahů během tréninku cílové halucinace:
-Řetězec promyšlené a strukturované zdůvodnění je zabudován do předškolních a jemných ladících fází, což umožňuje modelu vytvářet spíše vysvětlitelnější a uzemněné výstupy než sebevědomé dohady.
-Paradigma bezpečného dokončení nahrazuje starší bezpečnostní model založený na odmítnutí, školení GPT-5, aby poskytoval užitečné, ohraničené odpovědi nebo transparentně sděloval své limity a uvažování, když nemůže bezpečně odpovědět.
-Využití nástroje a vyhledávání generace (RAG): GPT-5 je systematicky vyškolen k využití vyhledávání na webu a externí nástroje pro kontrolu faktů pro dotazy, které vyžadují aktuální nebo vysoce specifické znalosti. To drasticky snižuje riziko halucinací na temné nebo rychle se vyvíjející subjekty.
- Sycophancy Reduction: Curation Pipeline GPT-5 výslovně shromažďuje data určená k zachycení modelů v chybách dohody, hodnocení odpovědí na sycophancy a použití těchto skóre jako negativní odměnu během RLHF, přímo útočí na problém s halucinací.
Výsledky a omezení v reálném světě
Navzdory těmto pokrokům není GPT-5 plně imunní vůči halucinacím. Například:
-Hlášená míra halucinace u komplexních otevřených úkolů (měřená podle benchmarků, jako je jednoduchá QA), zůstává významná, zejména pokud je systém odříznut od nástrojů pro kontrolu živých faktů.
- Přístup k vyhledávání na webu výrazně snižuje míru chyb a ilustruje důležitost hybridního tréninku (kombinace statických kurátorovaných údajů s vyhledáváním) při moderování halucinací.
- Některé kreativní nebo abstraktní výzvy nadále zpochybňují mechanismy uzemnění systému.
nepřetržité aktualizace a zpětná vazba komunity
Systém GPT-5 je napájen probíhajícími komunitami a údaji o skutečných uživatelch, s mechanismy zpětné vazby, které umožňují rychlé oprava objevených halucinací a zavádění zdokonalení v návrhu filtrování dat a odměňování. OpenAI otevřeně uznává potřebu dalšího zlepšení, zejména v doménách s vysokými sázkami, jako je zdravotnictví a právo, kde musí být tolerance chyb minimální.
Shrnutí klíčových kroků kurátoru
Pro syntézu vzniká snížení halucinací v GPT-5 z následujících propojených procesů:
1. Pečlivý výběr a filtrování dat před tréninkem, s důrazem na získávání z renomovaných databází a udržování aktuálního faktového obsahu.
2. Vyloučení hlučného, nespolehlivého nebo zkresleného obsahu během sestavení datového souboru, posíleno automatizovaným a manuálním přezkoumáním ve více fázích.
3. Posílení učení a nepřetržitá zpětná vazba založená na rozsáhlém člověku a automatizovaném třídění pro faktičnost a pravdivost.
4. Hodnocení proti robustní faktově benchmarkům, statickým i reálným světem, měří přesnou míru a typ halucinací za různých podmínek.
5. Intervence po tréninku, včetně bezpečnějších strategií dokončení, explicitní potlačení sykofancy a silné integrace s vyhledáváním nebo znalostí založené na nástrojích.
6. Iterativní živé ladění z produkční zpětné vazby a červeného týmu, což zajišťuje, že jsou rychle detekovány a řešeny nové úniky halucinací.