三名被解雇的 OpenAI 安全研究员称从未被告知涉嫌泄露了什么

因涉嫌泄密而被解雇的三名 OpenAI 安全研究人员正在讲述他们的经历。Tomek Korbak、Mikita Balesni 和 Jasmine Wang 否认共享过机密信息，质疑公司给出的解雇理由，并怀疑这与他们倡导更透明的 AI 系统有关。

在对 涉嫌违反 其敏感信息处理政策的内部调查之后，OpenAI 解雇了这三个人。在被解雇之前，他们每个人都曾公开谈论过 AI 风险。

在接受 华尔街日报 采访时，这几位研究人员现在对这种说法提出异议。OpenAI 告诉该报，解雇与研究人员提出的安全担忧无关。但这三人表示，公司从未以书面形式告知他们 supposedly 错误处理了哪些信息。他们还担心，此案可能会让独立安全审计机构彻底不愿与 AI 公司合作。

该报的报道揭示了这场冲突的起因。OpenAI 的安全团队怀疑这三人向一名外部安全研究人员透露了公司内部模型架构的细节，并要求他们解锁自己的个人手机。在这些设备上，团队发现了开启了阅后即焚功能的 Signal 聊天记录。一周后，三人同时被解雇。OpenAI 表示 Signal 并非公司批准的通讯工具，但坚称这不是解雇的原因。Korbak 则反驳说，阅后即焚消息是整个硅谷的常规安全做法。

一场围绕监控 AI 推理步骤的争议

争议的核心是一个影响重大的技术问题：AI 公司是否应该让外部人士检查其模型的思考方式？推理模型可以在一个被称为 思维链 的内部草稿板上记录其解决问题的中间步骤。公司和安全研究人员依靠这些痕迹来理解模型如何得出决策。

在 2025 年的一篇论文中，Balesni、Korbak 和 Wang 与多家 AI 实验室的顶尖研究人员一道，呼吁继续保持对这一能力的访问。今年夏天，随着 AI 公司的员工开始讨论思考时间更长但 写下的中间步骤更少 的模型，这个问题变得更加紧迫。Balesni 在内部分享了当时担任 Redwood Research 首席科学家的 Ryan Greenblatt 提出的一份相关提案，以表达反对意见。

Korbak 也与 Greenblatt 保持定期联系。两人在合作分析一起备受关注的事件——OpenAI 智能体对 Hugging Face 的攻击——期间，通过 Slack 和 Signal 交流。该事件的独立调查由 METR 聘请 Greenblatt 进行 独立调查。

一篇关于 Astra 的新闻报道引发了调查

9 月 1 日，The Information 报道称 OpenAI 的新 模型 Astra 能力更强，但透露的推理过程更少。此后，这种合作成了把柄。OpenAI 首席科学家 Jakub Pachocki 当时在 X 上斥该报道混乱不清，尽管他本人曾 警告过整个行业正在竞相开发再也无法被监控的模型。

据《华尔街日报》报道，几周后，OpenAI 启动了一次内部泄密调查。Balesni 表示，调查人员指认 Greenblatt 为疑似泄密来源，并要求查看与他之间的 Signal 聊天记录。Greenblatt 否认曾向记者透露机密信息。

Wang 则面临另一项指控:OpenAI 称她多次访问了一位高管的收件箱。她表示,自己早在近一年前就要求撤销该访问权限,上月误开了一封敏感邮件,没有分享其内容,并立即上报了此事。OpenAI 表示,问题并不在于访问权限本身。

据 Korbak 说,影响远不止他们三人。他说,同事们现在不敢与外界交流,也不敢在内部提出安全方面的担忧。在致 OpenAI 董事会的一封信中,三位研究人员呼吁与外部安全组织开展更紧密的合作。

此外,最近发布的一次现场审计也对 OpenAI 的安全实践提出了质疑。METR 和 Redwood Research 的工作人员在审查过程中发现 OpenAI 基础设施存在大量安全漏洞,但 OpenAI 将最终报告删除了近一半内容。

OpenAI 还发布了自己的报告,介绍了一种在无互联网接入环境下运行的新安全架构,并表示已修复相关问题,于十月初恢复了训练。该公司表示,将很快宣布多项新的外部合作伙伴关系。

无炒作的 AI 新闻 – 由人工精选

订阅 THE DECODER,享受无广告阅读、每周 AI 新闻通讯、每年六期独家"AI Radar"前沿报告、完整档案访问权限以及评论区访问权限。