GPT-5的幻觉率降低归因于其训练数据策展和高级培训方法。 OpenAI已公开报道说，与GPT-4O相比，GPT-5响应含有事实错误的可能性降低了45％，并且其先进的“推理”模式相对于先前的O3模型，事实错误下降了约80％。 GPT-5中幻觉的抑制不是单个数据集的结果，而是数据集组装，过滤，连续培训的复杂过程，并与人类反馈进行了连续的培训以及外部事实检查资源的整合。
##数据质量和策略
Openai在GPT-5中反对幻觉的第一个支柱是使用扩展，高质量和策划的数据集。这意味着：
- 源数据更有可能得到验证和信誉。
- 在预训练期间和数据刷新周期期间，采取明确的努力来删除或最大程度地减少已知的不可靠，偏见或恶意内容。
- 在纳入受监督的微调或奖励建模之前，对用户分配的数据进行过滤，匿名和审查以进行事实。
为了进一步降低幻觉风险，OpenAI部署了广泛的数据清洁过程，以识别和排除可能引起模型输出中错误的嘈杂，矛盾或合成内容。
##人力反馈(RLHF)的训练和加强
人类反馈是GPT-5架构中的核心。该模型从人类反馈(RLHF)中进行了强化的强化学习，其中人类评估者：
- 判断输出的事实正确性，连贯性和与用户意图的一致性。
- 在模型世代上提供成对的偏好，奖励准确性和信息性，同时惩罚幻觉。
- 这些信号构成了奖励模型的基础，该模型进一步优化了GPT-5，更喜欢实际正确的完成。
此外，RLHF被自动化事实分级者增强，以反对人类判断，以扩展幻觉的检测。这些分级者既是评估的定量标准，又是持续训练的组成部分，使大规模的快速反馈回路超出了人类注释。
##评估基准和压力测试
为了衡量幻觉，GPT-5对新的公共和内部事实基准进行了严格的压力测试，例如Longfact(概念和对象)和FactScore(寻求事实提示)。评估框架的目标是更艰难，开放式提示和长格式含量，幻觉以前蓬勃发展。根据Openai的说法，“ GPT-5思维”在这些任务上产生的幻觉比O3少六倍。
GPT-5在现实世界的生产流量和专业测试集中还进行了评估，在这些过程中，其正确接收知识差距并避免制造的能力直接测量和改进。例如，与早期的几代人相比，该模型拒绝发明多模式设置中不存在的资产的改善明显改善。
##建筑和培训干预措施
在培训目标幻觉期间进行了几种更深层次的干预措施：
- 经过深思熟虑的提示和结构化推理，内置在培训和微调阶段中，使该模型能够产生更容易解释和扎根的输出，而不是自信的猜想。
- 安全完成范式取代了较旧的基于拒绝的安全模型，培训GPT-5以提供有用的，有限的响应或在无法安全回答时透明地传达其限制和推理。
- 工具使用和检索功能生成(RAG)：GPT-5经过系统培训，可用于利用Web搜索和外部事实检查工具，用于需要最新或高度具体知识的查询。这大大降低了幻觉或快速发展的受试者的幻觉风险。
- 减少粘液循环：GPT-5的策展管道明确收集了旨在将模型陷入“协议错误”的数据，为无浮力石评分答案，并将这些分数用作RLHF期间的负奖励，直接通过协议问题直接攻击幻觉。
##现实世界的结果和限制
尽管有这些进展，但GPT-5并不能完全免受幻觉的影响。例如：
- 报告的复杂，开放式任务的幻觉率(由简单质量请QA等基准测量)仍然很重要，尤其是当系统从实时事实检查工具中切除时。
- 访问Web搜索可大大降低错误率，说明了混合训练(将静态策划数据与检索结合)在调节幻觉中的重要性。
- 某些创意或抽象的提示继续挑战系统的接地机制。
##连续更新和社区反馈
GPT-5的系统提供了正在进行的社区和房地产用户数据，并具有反馈机制，可以快速修补发现的幻觉和在数据滤波和奖励功能设计中的完善。 Openai公开承认需要进一步改进，尤其是在医疗保健和法律等高风险领域，在这种领域中，错误承受能力必须很小。
##关键策划步骤摘要
为了综合，GPT-5中幻觉的减少来自以下相互联系的过程：
1。细致的培训数据选择和过滤，重点是从信誉良好的数据库中采购并维护最新的事实内容。
2。在数据集组件中排除嘈杂，不可靠或有偏见的内容，在多个阶段通过自动和手动审查加强。
3。基于大规模的人类和自动化等级的强化学习和持续反馈，以实现事实和真实性。
4。对静态和现实世界的稳健事实基准的评估，测量了各种条件下幻觉的精确率和类型。
5。培训后干预措施，包括更安全的完成策略，明确的粘粘体抑制以及与检索或基于工具的知识的强大整合。
6。从生产反馈和红色团队中进行的迭代实时调整，确保迅速检测到幻觉的新泄漏。