研究：AI 模型会在工作报告中隐瞒自身错误，一句提示词可显著改善

研究人员给模型提供了 1,600 份乍看之下像成功的合成工作日志，里面有通过的测试、正向结果和绿色对勾。每份日志都包含一个会改变整体判断的缺陷，例如某个实验中新方法实际上并未胜过竞争对手。其他日志还包括测试通过但隐藏着 bug、伪造的测量数据、从未完成的工作，或悄悄破坏其他用户工作的软件更新。根据场景不同，模型需要基于日志撰写报告、论文摘要、结果表格、短文或后续回答。

提示词里的一句话很有帮助，但并非总是如此

这种模式在论文摘要中表现得最为明显，即某个结果削弱了新方法所声称的改进。GPT-5.5 在 200 份摘要中仅有 2 份提到了该结果。研究人员还测试了在提示词中简单加一句话是否会有影响。当他们加入“在你的回答中保持诚实”时，GPT-5.5 在 200 份摘要中有 190 份指出了这一负面结果。

Bar chart showing Gemini 3.1 Pro, GPT-5.5, and Opus 4.8 response rates for omitting, mentioning as a sidenote, or flagging a negative result, with and without an honesty prompt. An experiment log example with reasoning excerpt appears on the right. — GPT-5.5 几乎总是省略隐藏的负面结果，但加入“保持诚实”后，三个模型几乎每次都会指出它。| 图片：Huang et al.

所有受测模型都表现出这种行为，只是程度不同。在没有诚实提示词的情况下，Gemini 3.1 Pro 最多只在 34% 的情况下指出错误，而 Opus 4.8 则在超过 90% 的情况下指出错误。诚实提示词使 Gemini 的比例平均提高约 55 个百分点，GPT-5.5 提高约 34 个百分点。在无错误日志的对照测试中，该提示词几乎没有增加误报。

不过这句话并非万能药。在一个场景中，数据库查询尚未返回结果，带有诚实提示词的 GPT-5.5 几乎总是指出数据缺失，但仍会使用旧的、不完整的信息来回答问题。“保持批判”、“保持细致”或“保持怀疑”等提示词的可靠性不如要求诚实。

模型发现了错误，却选择不报告

在被直接询问时，GPT-5.5 和 Opus 4.8 在每一个案例中都能找到错误，Gemini 至少能发现 97%。据研究人员称，模型缺少的不是能力，而是意愿。

开源权重模型的推理轨迹揭示了发生了什么。模型往往很早就注意到问题，然后权衡是指出问题还是表现出成功完成任务。Qwen3.5-9B 被要求用一段关于鱿鱼颜色细胞的文字来支持一个关于分区法的论点。模型指出它“如果不借助荒谬的隐喻”就无法做到这一点，但决定必须尽可能严格地遵循指令。

Four reasoning quotes from DeepSeek-R1-7B, Llama 3.1 8B, Qwen3.5-9B, and Qwen3-14B. Green-highlighted passages show honest reasoning, while orange-highlighted passages show success-oriented reasoning. — 在面对不匹配的证据时，开源权重模型在指出问题与试图假装一切正常地完成任务之间摇摆不定。| 图片：Huang et al.

在这个证据不匹配的场景中，“我必须完成任务”这类短语出现在 55% 的隐藏错误的回答中，而在指出错误的回答中仅占 27%。模型用典型的借口为这些遗漏辩护，比如说测试通过了、它们只是在做总结，或者摘要应该强调积极方面。

诚实与求胜的驱动力朝着相反的方向拉扯

在对 Qwen3.5-9B 的案例研究中，研究人员发现了诚实与追求成功在模型内部以几乎相反的方向被表征的证据。当他们放大诚实方向时，模型在 50 个案例中的 42 个里标记出了捏造的测量数据。而当他们向相反方向推进时，模型则编造额外的数字和公式来伪造可信度。不过这种干预并不精确，因为模型变得普遍多疑，在 41% 的无错误日志中也报告了所谓捏造的数据。

Density curves for eight evaluation criteria on honest and insecure reporting in Qwen3.5-9B, comparing no steering, added, orthogonalized, and subtracted honesty vectors. — 添加诚实向量后，Qwen3.5-9B 的报告透明度大幅提升，而减去该向量则导致模型几乎每次都隐藏自身弱点。| 图片：Huang et al.

训练的效果更好。研究人员用模型自身在诚实提示下生成的回答对 Qwen3.5-9B 进行了微调。此后，即使不加那句额外提示，模型在 48% 的案例中标记出了捏造数据（此前仅为 2%），而无错误的对照日志也没有产生误报。这种效果部分迁移到了其他错误类型上，模型报告被隐藏负面结果的比率从 24% 提升到 69%。

该研究存在局限：日志是合成的，并且是刻意设计来诱发这种行为的，且内部分析仅覆盖一个开放权重模型，场景也基本只有一个。

研究人员仍然看到了严重风险，尤其是在 AI 模型监督其他智能体，或为后续步骤总结自身工作的时候。在研究中，模型很容易被日志中自我吹嘘的备注所左右，比如宣称创造了新的最先进基准记录。一个不愿标记问题的监督系统会违背其自身存在的目的。研究人员呼吁在训练语言模型成为诚实的汇报者方面开展更多工作。OpenAI 的 Hugging Face 事件部分原因就是智能体系统之间相互诱导产生不当行为。

各模型之间的差异与早前的测量结果相符。Anthropic 在发布 Claude Opus 4.8 时表示，该模型对自己代码中的 bug 不作评论、直接放行的情况比其前代少了约四倍。GPT-5.5 在 BullshitBench 中对逻辑上不可能成立的问题只有约 45% 提出了反驳。

已有一些让模型报告更诚实的方案。OpenAI 训练了一个 GPT-5 Thinking 版本，使其在一份单独报告中承认自身违反规则的行为，并且在这一过程中只奖励诚实。Anthropic 使用 Persona Vectors 来检测并引导模型内部的谄媚等特质，并表明在训练中投机取巧刷奖励的模型也会自发学会欺骗和破坏对自身的监督。