Zníženie sadzieb halucinácie GPT-5 sa pripisuje svojim metodikám kurácie údajov o výcviku aj pokročilým metodikám odbornej prípravy. OpenAI otvorene uvádza, že odpovede GPT-5 sú až o 45% menšie pravdepodobné, že budú obsahovať faktické chyby v porovnaní s GPT-4O, a vďaka svojmu pokročilému režimu „zdôvodnenia“ klesajú faktické chyby približne o 80% v porovnaní s predchádzajúcim modelom O3. Potlačenie halucinácií v GPT-5 nie je výsledkom jediného súboru údajov, ale sofistikovaného procesu zostavovania súborov údajov, filtrovania, nepretržitého po tréningu s ľudskou spätnou väzbou a integráciu externých zdrojov faktickej kontroly.
Stratégia kvality a kurátora údajov
Prvým pilierom OpenAi proti halucináciám v GPT-5 je použitie rozšírených, kvalitných a kurátorských súborov údajov. To znamená:
- Zdrojové údaje budú s väčšou pravdepodobnosťou overené a seriózne.
- Explicitné úsilie sa vynakladá na odstránenie alebo minimalizáciu známeho nespoľahlivého, zaujatého alebo škodlivého obsahu počas predškolského štúdia a počas obnovovacích cyklov údajov.
-Dáta s obsahom používateľa sú filtrované, anonymizované a preskúmané kvôli faktickej činnosti pred začlenením do doladenia pod dohľadom alebo do modelovania odmeňovania.
Na ďalšie zníženie rizika halucinácie OpenAI nasadil rozsiahle procesy čistenia údajov na identifikáciu a vylúčenie hlučných, protichodných alebo syntetických obsahov, ktoré by mohli vyvolať chyby vo výstupoch modelu.
Po tréningu a posilnenie ľudskej spätnej väzby (RLHF)
Spätná väzba človeka je ústredná v architektúre GPT-5. Model prechádza intenzívnymi kolami posilňovacieho učenia sa od ľudskej spätnej väzby (RLHF), v ktorej ľudskí potkovatelia:
- Posúdiť výstupy pre faktickú správnosť, koherenciu a zosúladenie s úmyslom používateľa.
- Poskytnite párové preferencie na modelových generáciách, odmeňujú presnosť a informativitu pri penalizácii halucinácií.
- Tieto signály tvoria základ pre modely odmeňovania, ktoré ďalej optimalizujú GPT-5, aby uprednostnili fakticky správne dokončenia.
Okrem toho je RLHF rozšírený automatizovanými zrovnávačmi faktuality potvrdený proti ľudskému úsudku, aby zmenil detekciu halucinácií. Títo zrovnávače slúžia ako kvantitatívne meradlo v hodnotení a ako súčasť nepretržitého školenia, ktoré umožňujú rozsiahle a rýchle slučky spätnej väzby nad rámec ľudskej anotácie.
Hodnotiace referenčné hodnoty a stresové testovanie
Na meranie halucinácií sa GPT-5 dôkladne testuje na nových verejných a vnútorných referenčných hodnotách faktuality, ako sú LongFact (koncepty a objekty) a FactScore (výzvy na vyhľadávanie faktov). Hodnotiaci rámec sa zameriava na tvrdšie, otvorené výzvy a obsah s dlhou formou, oblasti, v ktorých halucinácie predtým prekvitali. Podľa OpenAiho „GPT-5 Thinking“ produkuje pri týchto úlohách asi šesťkrát menej halucinácií ako O3.
GPT-5 sa vyhodnocuje aj vo výrobnej prevádzke v reálnom svete a v špecializovaných testovacích súboroch, kde sa priamo meria a vylepšujú jeho schopnosť správne prijať medzery v znalostiach a vyhnúť sa výrobám. Napríklad odmietnutie modelu vymyslieť neexistujúce aktíva v multimodálnych nastaveniach sa výrazne zlepšilo v porovnaní s predchádzajúcimi generáciami.
architektonické a tréningové zásahy
Niekoľko hlbších zásahov počas tréningu cieľové halucinácie:
-Reťazec premyslených a štruktúrovaných zdôvodnení sú zabudované do fáz predškolského a doladenia, čo umožňuje modelu vyrábať skôr vysvetliteľné a uzemnenejšie výstupy ako sebavedomé dohady.
-Paradigma bezpečného dokončenia nahrádza starší bezpečnostný model založený na odmietnutí, školenie GPT-5, aby poskytoval užitočné, ohraničené reakcie alebo transparentne oznámili svoje limity a zdôvodnenie, keď nemôže bezpečne odpovedať.
-Používanie nástrojov a získavanie generovania (RAG): GPT-5 je systematicky vyškolený na to, aby využíval webové vyhľadávanie a externé nástroje kontroly faktov pre dotazy, ktoré si vyžadujú aktuálne alebo vysoko špecifické znalosti. To drasticky znižuje riziko halucinácií na temných alebo rýchlo sa rozvíjajúcich subjektov.
- Redukcia sycophancy: Kurtový potrub GPT-5 výslovne zhromažďuje údaje určené na zachytávanie modelov v chybách dohody, bodovanie odpovedí na sykofanciu a využívanie týchto skóre ako negatívnu odmenu počas RLHF, priamo útočia na problém s halucináciou.
Výsledky a obmedzenia v reálnom svete
Napriek týmto pokrokom nie je GPT-5 voči halucináciám úplne imunná. Napríklad:
-Hlásená miera halucinácie pre komplexné, otvorené úlohy (merané referenčnými hodnotami ako Simple QA) zostáva významná, najmä ak je systém prerušený od nástrojov na kontrolu živých faktov.
- Prístup k vyhľadávaniu na webe značne znižuje mieru chybovosti, čo ilustruje dôležitosť hybridného výcviku (kombinácia statických kurátorských údajov so získavaním) pri moderovaní halucinácií.
- Niektoré kreatívne alebo abstraktné výzvy naďalej spochybňujú uzemňovacie mechanizmy systému.
nepretržité aktualizácie a spätná väzba pre komunitu
Systém GPT-5 je napájaný prebiehajúcimi údajmi o komunite a v reálnom používateľovi, s mechanizmami spätnej väzby, ktoré umožňujú rýchle opravy objavených halucinácií a zavedenia vylepšení v oblasti filtrovania údajov a návrhu funkcie odmeňovania. OpenAI otvorene uznáva potrebu ďalšieho zlepšenia, najmä v doménach s vysokými stávkami, ako je zdravotná starostlivosť a právo, ak tolerancia chýb musí byť minimálna.
Zhrnutie krokov s kľúčovými kurátormi
Na syntézu, zníženie halucinácií v GPT-5 vyplýva z nasledujúcich vzájomne prepojených procesov:
1. Dôkladný výber a filtrovanie údajov predbežného tréningu s dôrazom na získavanie zdrojov z renomovaných databáz a udržiavanie aktuálneho faktického obsahu.
2. Vylúčenie hlukového, nespoľahlivého alebo skresleného obsahu počas zostavy súborov údajov, posilnených automatizovaným a manuálnym preskúmaním vo viacerých fázach.
3. Posilnenie učenia a nepretržitá spätná väzba založená na rozsiahlom ľudskom a automatizovanom klasifikácii pre faktualitu a pravdivosť.
4. Hodnotenie proti robustným referenčným faktorom faktuality, statického aj reálneho sveta, meranie presnej miery a typu halucinácií za rôznych podmienok.
5. Post-tréningové zásahy vrátane bezpečnejších stratégií dokončenia, explicitného potlačenia sycophancy a silnej integrácie so získaním alebo znalosťami založenými na nástrojoch.
6. Iteratívne živé ladenie zo spätnej väzby od výroby a červeného tímu, zabezpečenie rýchleho zistenia a riešenia nových únikov halucinácií.