与GPT-4相比，GPT-5为什么会减少幻觉

LLMS幻觉的定义

大型语言模型(LLM)有时会产生幻觉**令人信服，流利的陈述实际上是不正确或没有基于基础数据中的。幻觉包括捏造的事实，不正确的归因和错误的逻辑。 GPT-5的改进直接针对这些问题，从而使其在开放式推理和事实提问中都更可靠。

##定量基准比较

直接将GPT-5与GPT-4进行比较，揭示了幻觉率的明显降低：
- 在诸如Longfact和FactScore之类的事实基准上，GPT-5的幻觉率低至0.7亿.1.0％，而GPT-4的4.5 5.1％。
- 评估医疗准确性的HealthBench显示GPT-5的幻觉率低于2％，远低于GPT-4O的12％。
- 对常见用户查询(现实世界情景)的分析发现，GPT-5的错误率降至4.8％，而GPT-4O的错误率降至4.8％。
- 与GPT-4O相比，多个独立的来源证实了事实错误的45幅67％，强调了接地和自我纠正的飞跃。

跨领域的这种一致收益强调了基本转变：GPT-5的设计和训练系统地针对先前幻觉的来源。

##建筑创新

###周到的输入路由和统一

GPT-5引入了一个统一的体系结构，该体系结构动态地路由到专业的专家子系统或头部。这允许以比GPT-4的单片设计更精细的粒度进行有针对性的推理和事实检查。通过将复杂的用户请求巧妙地分配在适当的模块之间，GPT-5可以交叉验证内容，汇总多个来源，并最大程度地减少未支撑或捏造的事实的传播。该路由系统是GPT-5对细微差别，复杂或新颖的事实任务的卓越处理。

###增强思维模式

GPT-5中的一个关键特征是明确的思考模式，该模式指示模型内部故意，收集证据和组织信息，然后再产生外部答案。在基准测试中，GPT-5的幻觉速度始终低于快速，非结构化模式，这表明建模结构化推理(而不是自由形式产生)会产生更可靠的输出。用户和研究人员观察到，GPT-5思维模式的幻觉可能是GPT-4O最快的一代设置的六倍。

###模型深度和上下文窗口

GPT-5扩展了其上下文窗口和模型深度，使其能够参考更多信息并保持长期输出的连贯性。这意味着它会记住更多的事实，减少漂移并使失去情节的可能性较小，当输入长度接近或超过其窗口限制时，这通常会触发早期模型的幻觉。

##改进的培训数据和方法

###高质量数据选择和过滤

在培训和微调阶段，OpenAI和相关的研究人员已经完善了GPT-5的数据策划。这涉及：
- 更严格的排除不可靠的网络源，过时的信息和包含固有错误或虚构内容的综合数据。
- 积极地包括关注事实学科(科学，医学，法律)的策划数据集。
- 更具侵略性的过滤，用于参考，引用和可追溯性，阻止不支持的概括。

这种谨慎的数据选择意味着GPT-5在初始学习过程中暴露于更少的噪声和较少的误导模式，从而减少了幻觉行为的烙印。

###高级强化学习和人类反馈(RLHF)

GPT-5以更大，更详细的范围从人类反馈(RLHF)中利用强化学习。人类评估人员不仅对一般有益的产量进行排名，而且还要对幻觉的事实，不支持的索赔和过度自信的错误进行标记和惩罚。在以后的阶段，领域专家为标签做出了贡献(尤其是在健康或科学等高风险领域)，将模型暴露于严格的校正中，而不仅仅是令人愉悦的散文。

此外，增强学习现在是多目标：
- 事实正确性
- 正确表达认识论不确定性(说我不知道​​)
- 来源归因和可追溯性

多个引用的研究指出，GPT-5比GPT-4更频繁地拒绝在模棱两可的情况下幻觉，而是选择免责声明或提示来检查外部来源。

###持续更新和在线学习

如果GPT-4经过训练，GPT-4在很大程度上是静态的，则GPT-5结合了持续学习的元素**从新的，值得信赖的信息中进行定期更新，以及对用户和数据合作伙伴标记的已知错误的主动校正。这种在线学习循环意味着有问题的模式不会持续很长时间，因此在较新的主题(培训后事件，新技术)中产生了幻觉。

##强大的评估协议

###扩展和压力测试的事实基准

Openai投资于GPT-5的更广泛，更深入的评估集，并在事实领域中以更具挑战性，细微差别和开放性的提示强调它：
- 长期事实，事实评估和HealthBench不仅涵盖了简短的事实，还涵盖了扩展推理和上下文维护。
- 简单的QA ** - 在网络连接和离线模式下测试模型，在孤立的培训中暴露了弱点。
- 现实的提示设置反映了生产CHATGPT流量，而不仅仅是学术测试问题。

这些不同的测试允许OpenAI查明gpt-4容易被投机或过度笼统的情况，并强行重新训练或调整GPT-5以覆盖这些趋势。

###部署后监控和更正

得益于生产遥测和用户反馈，OpenAI能够在模型部署后不久检测和解决幻觉事件。这种快速的迭代关闭了用户体验和模型可靠性之间的反馈回路，以空前的速度应用了错误归因或持续错误的校正。

##安全，不确定性和拒绝机制

###认知不确定性校准

GPT-5优越的可靠性的一个标志是它表达不确定性并符合自己的主张的能力。 GPT-5没有产生自信但不受支持的答案(幻觉)，而是经过训练和调整为：
- 承认当它无法获得当前的可验证知识时。
- 鼓励用户咨询主要或权威来源。
- 识别并突出显示歧义，有争议或有争议的主张。

这种自我校准是以前模型的弱点。通过将明确的不确定性建模构建到架构和培训目标中，GPT-5对自己的局限性诚实地胜过前辈。

###自动事实验证

GPT-5结合了一个内部事实检查层，其中模型生成的输出概率为对已知数据库的验证，或者在可用时进行实时Web源。如果无法确认事实，则将输出抑制，用警告重写，或提示用户检查外部资源。这种自动化的机制大大削弱了幻觉的陈述传递到最终产出的可能性。

###安全意识输出过滤

如果GPT-4和先前的模型偶尔会返回合理但风险的信息(例如，在健康或法律疑问中)，GPT-5对高风险主题进行高级过滤。增强的安全层交叉检查高影响的答案，抑制可能的幻觉，并在用户赌注较高时拒绝投机内容。这使得GPT-5不仅可以更安全地用于一般聊天，而且可以进行认真的专业用途。

##跨领域的实际证据

###医学与健康

由于需要精确，医疗疑问传统上对LLM的挑战是挑战性的。 GPT-5在HealthBench上的幻觉率低至少低80％，通常不仅超过GPT-4，而且几乎所有目前可用的竞争模式。独立审阅者指出，GPT-5是一个积极的思想伙伴，主动提出潜在的问题，并给出更多有用的答案。

###编码和技术任务

GPT-5还大大减少了编程中的幻觉，生成更少的制作API，不存在的功能和不合逻辑的代码片段。早期模型以合理的听起来却是臭名昭著的，但无效的代码。 GPT-5利用其更深入的培训和事实检查，会产生更准确的上下文感知代码，并且在响应之前更有可能提出歧义要求。

###常识和新闻

当提示最近事件或细微的事实主题时，GPT-5交叉引用多个来源，引用信息，并且更频繁地确定不一致或过时的内容。值得注意的是，更有可能说“我不知道或建议在边缘案例中进行其他研究，而不是制造。

###限制：不完全幻觉

尽管有所有这些进步，但GPT-5并不能不受幻觉的影响。一些独立的基准测试和用户轶事突出显示了持久的，尽管较少，但边缘方案，复杂的推理链或没有可靠的培训数据的任务中存在错误。对于没有网络连接访问的用户，或在真相高度模棱两可的域中，仍然确实发生了不正确的输出，尽管明显少于GPT-4。

##摘要：减少幻觉的核心驱动因素

总之，造成GPT-5大幅减少GPT-4幻觉的关键因素是：

- 统一，专家驱动的体系结构：动态地将问题路由到最合适的子系统，以交叉检查和汇总事实。
- 结构化的“思考”模式：优先考虑缓慢的基于证据的推理，而不是快速生成。
- 扩展的模型上下文：最大程度地减少截断引起的漂移和关键细节的丢失。
- 更严格的数据策展和RLHF：严格滤除不可靠的信息，并严厉地惩罚培训中的幻觉或过度自信的答案。
- 严重的基准测试和反馈循环：不断强调事实并迅速纠正检测到的问题。
- 自动验证和不确定性校准：内部事实检查器，免责声明和拒绝使模型更安全，更诚实。