据称 OpenAI 年内将发布至少一款新模型，但旗舰模型对齐工作尚未完成

OpenAI 正在竞相完成其下一代旗舰模型，该模型采用了与 Astra 相同的循环变换器技术。这种方法提升了数学和编程性能，但也使安全监控变得更加困难。员工表示，年底前可能会发布一到两个新模型。

据员工透露，OpenAI 可能会在年底前发布“一到两个新模型”，但目前尚不清楚该公司正在开发的“重大升级模型”是否会在其中。这是 The Information 援引知情人士的说法。

新旗舰模型可能还需要一段时间。该模型需要对齐（alignment）工作，使其目标符合 OpenAI 研究人员和客户的预期。在推进之前，公司还必须加强围绕该模型的测试基础设施。

即使领导层对安全评估感到满意，还有另一道关卡。根据 特朗普总统的一项行政命令 对高级 AI 系统评估的规定，OpenAI 同意向美国政府提供新模型的访问权限，时间最晚可在外部合作伙伴获取前 30 天，而在公开发布之前时间更长。

循环变换器同时驱动 Astra 和下一代旗舰模型

据知情人士透露，新旗舰模型同样采用循环变换器。OpenAI 已经在生产环境中使用这项技术，其名称为“Recurrent Depth”。它是 Astra 工作方式的核心，Astra 是该公司当前的顶级模型。该模型不是让一个 token 只通过变换器层一次，而是在输出下一个词之前将其多次循环通过相同的层。这提升了数学和编程方面的性能并降低了成本，因为更小的模型可以发挥出超越自身规模的表现。

但循环也把模型的部分“思考”从可读文本转移到了人类审查者无法检查的内部数值表示中。这削弱了思维链监控，即安全研究人员通过追踪模型的推理来发现不良行为。据 The Information 报道，OpenAI 刻意限制了 Astra 运行的循环次数，以保持其思维链的可读性。

据知情人士透露，Hugging Face 事件之后，OpenAI 将其总算力的约百分之十转移到了对齐和安全方面。The Information 报道称，这相当于数百兆瓦的数据中心容量，但目前尚不清楚此前有多少算力被分配给安全工作，以及目前的分配比例如何。按市场价计算，OpenAI 转移的这些算力每年租金将达数十亿美元。AI 研究员 Noam Brown 在 9 月中旬的一期播客中表示，他的团队中约有百分之十的成员也从事安全和保障工作。

微软意外泄露了 OpenAI 循环推理的工作原理

OpenAI 实际如何使用这项技术，是通过微软的一次失误曝光的。这家拥有 OpenAI 知识产权访问权的大型投资者，发布了一份关于 GPT-6.1 Sol 的技术说明，GPT-6.1 Sol 是 OpenAI 本月早些时候推出的更便宜的 Astra 替代方案。

在一个现已被删除的章节中，微软将 GPT-6.1 Sol 描述为使用“循环推理”，即模型在产出答案之前通过多个“轮次”处理同一个问题。The Information 从该页面的缓存副本中引述道，GPT-6.1 Sol“使用与 GPT-6 Sol 相同的基础模型权重，但推理轮次为两次而非三次”。

一位知情人士证实，这篇报道与 OpenAI 私下告知 Microsoft 的内容相符。Microsoft 在意识到该内容本不应公开后将其删除。据 The Information 报道，环形Transformer仍然是 OpenAI 模型开发中一个敏感部分，无论是在训练还是推理阶段。

OpenAI 首席科学家 Jakub Pachocki 已经承认，思维链监控正变得“脆弱”，并且“不幸地呈负面趋势发展”。他还警告全行业不要竞相开发不具备可读推理能力的模型。

无炒作的AI新闻 – 由人工精选

订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区的访问权限。