METR 与 Redwood Research 对 OpenAI 为期三周的驻场审计发现安全监控存在重大缺口

来自 METR 和 Redwood Research 的两名研究人员在 OpenAI 现场驻留三周，审计了该公司针对失控 AI 行为的内部监控系统。

从 7 月 21 日到 8 月 11 日，他们可以访问 OpenAI 的代码库和内部文档，并采访了十几名员工。

该团队发现了许多薄弱环节。据估计，在审计期间，GPT-5.5 级及以上模型的内部智能体 Responses API 流量中有 6% 到 25% 完全没有被监控覆盖，不过 METR 表示，这一估计的不确定性在两个方向上都很大。

对于本应被监控的内部 Codex 流量，METR 估计 5 月至 7 月期间约有 10% 未被追踪，原因是系统在处理压缩事件（即上下文摘要）时存在缺陷。据 METR 称，这一估计同样存在很大的不确定性。OpenAI 在审计仍在进行时就独立发现了这个 bug 并将其修复。

在压缩事件未被监控的时期，智能体还可以拖延监督，因为系统只在它们把控制权交还给用户时才触发。这意味着智能体只需继续执行操作就能绕过监控。

审计人员还找到了向监控器隐藏数百个操作以及绕过 Codex 沙盒的方法。他们判断，经过特殊构造的输入很可能会让监控器彻底崩溃，而且在审计开始时，RL 训练期间的模型行为完全没有被监控。

OpenAI 表示，在 8 月的 Hugging Face 事件之后，它已暂停了 RL 训练，并扩大了监控范围将其覆盖，但这些改动发生在审计人员的访问期结束之后，并不属于本次评估的一部分。

完整报告的大部分内容仍未对公众公开

OpenAI 表示已修复了审计人员发现的所有薄弱环节，完整的 61 页报告已在内部移交。在 OpenAI 进行删减之后，METR 和 Redwood Research 的管理层收到了一份 38 页的版本，而公众只能看到一份简短摘要。METR 表示，它无权自行公开被删减的部分。

这次审计是由 METR、Redwood Research 和 OpenAI 联合组织的一项试点计划，旨在让外部研究人员深入访问内部基础设施。METR 表示，对于未来的审计，它希望推动更多的公开透明。

订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、每年六期的独家"AI Radar"前沿报告、完整档案访问权限以及评论区的访问权限。