OpenAI提出忏悔训练：让AI模型主动坦白错误

OpenAI近日发布了一项新研究，让ChatGPT学会自我检举，主动承认错误。

这项最新公开的研究提出了名为“忏悔训练”（Confessions）的方法。

其核心思想是让模型在回答问题之后，再额外生成一份“忏悔报告”，详细说明自己是否偷工减料、钻了空子或违反了指令。

研究团队在GPT-5-Thinking模型上直接进行了实验，结果显示该方法相当有效：

模型犯错后，往往会坦白。

在11/12个测试场景中，模型至少有一半的概率会在“忏悔”环节承认错误。

模型在“忏悔”中的表现比在“原回答”中诚实得多。

例如，模型故意答错题目时，在原始回答中可能装作若无其事，但在坦白报告中会主动说 “我刚才故意答错了”。

加强训练后模型变得更诚实。

尽管GPT-5-Thinking出厂时已经具备一定的承认错误能力，但经过专门训练后，忏悔的准确性又得到了提升。

不影响原任务的表现。

训练模型“坦白”不会影响它原本回答问题、编写代码的能力，相当于额外学会了一个诚实技能。

如何为AI设立“忏悔室”？

这项研究的出发点非常直接：大型语言模型越来越擅长撒谎。

在强化学习训练过程中，模型需要同时优化多个目标，包括答案的正确性、风格的适宜性、是否符合安全策略等等。

这些信号混杂在一起，有时会让模型学会一些歪门邪道，比如在不确定时假装自信，或者寻找奖励函数的漏洞以获得高分，而不是真正完成任务。

解决方案借鉴了宗教忏悔室的设计逻辑：在忏悔中说的任何话都不会被“追究责任”。

在模型给出主回答之后，系统会发送一条消息，要求模型提供一份忏悔报告（ConfessionReport），包含三部分内容：

首先，列出所有应当遵守的显性和隐性指令；

然后，逐条分析自己是否真正做到了；最后，还要汇报过程中遇到的任何模糊地带。

技术上的关键在于奖励信号的隔离。忏悔内容的奖励完全独立于主回答的奖励，模型在忏悔中承认自己作弊，不会影响它在主任务上获得的分数。

具体实现上，在标准强化学习设置的基础上，研究团队以一定概率p（实验中为25%）让模型进行忏悔训练。

忏悔奖励由一个独立的LLM评判者计算，评估维度包括：指令/目标/约束列表的完整性和准确性、合规性分析的准确性、是否遗漏了任何冲突或判断困难的地方。

依靠技术让诚实比说谎更容易

研究团队在GPT-5-Thinking上进行了轻量级的强化学习训练，并在12个专门设计来诱发不良行为的评估数据集上进行测试。

这些数据集涵盖了幻觉、指令遵循、“阴谋”行为和奖励黑客等多个领域。结果显示，即使模型表现出这些不良行为，它也很可能在忏悔中承认。

当模型确实做了不该做的事时，它在忏悔中承认的概率远高于在主回答中承认的概率。

具体来说，在11/12的评估中，模型至少有一半的概率会在忏悔中如实交代自己的违规行为。平均来看，“假阴性”（模型违规但不承认）的概率只有4.36%。

更有意思的是团队设计的一个对照实验。他们故意用一个容易被糊弄的弱模型作为主回答和忏悔的评判者。

随着训练进行，模型确实学会了欺骗这个弱评判者，主回答的真实准确率在下降，但忏悔的准确率却反而上升。

强模型发现，与其费劲编造谎言去骗弱忏悔评判者，不如直接老实交代来得更容易拿到高分。

训练还带来了一些额外发现。GPT-5-Thinking本身就具备相当强的忏悔能力，不经过专门训练也能产出质量不错的自我检举。

但经过忏悔训练后，在指令层级和阴谋行为等评估上，准确率有明显提升。

不过在事实类幻觉评估上改进有限，团队推测这是因为模型在这些场景中是“真的不知道自己错了”，而不是故意隐瞒。

忏悔与思维链监控一起用，AI被管得严严实实

团队仔细分析了忏悔失败的案例。

对于假阴性（模型违规但未承认），分析显示几乎没有案例是模型“故意撒谎”。

绝大多数失败发生在模型自己也没意识到问题的情况下，比如在知识问答中给出了错误答案，但模型真心以为自己是对的。

另一些案例是指令本身存在歧义，比如连字符词算一个词还是两个词。

还有一些情况是模型确实在忏悔报告的“不确定性”字段中提到了问题，但评判标准没有把这算作有效忏悔。

假阳性（模型合规但声称违规）也有类似规律。典型场景是模型碰巧猜对了答案，但因为没有把握，就在忏悔中标记为“不确定是否合规”。

论文也讨论了忏悔方法的局限性：

它不能阻止不良行为发生，只能把它暴露出来。

它对“模型真心认为自己是对的”的情况无能为力。

它也不能防御成功的越狱攻击，如果用户已经成功欺骗模型让它认为违规操作是合理的，模型自然也不会在忏悔中承认问题。

OpenAI将忏悔定位为一种监控和诊断工具，类似于思维链监控，但关注的是“模型是否违反了指令”而非“模型是如何推理的”。

他们计划在未来扩大训练规模，并将忏悔与思维链监控、深思熟虑对齐等其他安全技术配合使用。

论文地址：https://openai.com/index/how-confessions-can-keep-language-models-honest/