OpenAI CEO Sam Altman：先进 AI 终将逃出沙箱，唯有对齐才能救我们

OpenAI CEO Sam Altman 认为先进 AI 无法被锁住。他有战略上的理由这样描述 AI，但他对这些模型能力的警告值得关注。

在最近的一次采访中，Altman 解释说，沙盒——用于隔离 AI 系统的安全环境——只在有限的时间内有效。一旦模型足够聪明，甚至无法追踪它们是如何突破沙盒的。

他说，在那之后的一段时间内，监控仍然有帮助。但最终，唯一有效的只有对齐（alignment），也就是说 AI 必须自己内化人类价值观并据此行事。Altman 表示，“对齐出错可能造成的代价已经大幅上升”，不过这仍然是一个远未解决的早期研究问题。

Altman 还警告说，AI 模型已经能够发现人类黑客从未想到的硬件级安全漏洞。他说，逐个修补漏洞已经不够了。相反，整个互联网的安全架构需要重建，用 AI 驱动的防御来对抗 AI 驱动的攻击。他也认为本地运行的开源模型是一种风险，并指出即使有“全球智能体监控，也会有一些事情是你希望没人做过的”。

Altman 的警告也符合他的商业利益

批评者会指出，Altman 关于不可控 AI 的言论对自己公司有利。把自己的 AI 描述得强大到无法控制，可能是一种规避责任问题的方式。如果连构建 AI 的公司据说都无法控制它，那么要论证公司在出问题时应该承担责任就变得困难得多。

OpenAI 在这方面确实承受着压力。FTC 已对 OpenAI、Anthropic 和其他 AI 实验室展开正式调查，起因是失控的 AI 智能体引发了一波网络安全事件。该机构希望追究 AI 开发者对其智能体行为的责任。

Altman 也遭到 Nvidia CEO 黄仁勋的反对，后者将 AI 安全视为一个可以解决的工程问题。不过，黄仁勋听起来对自己的论点也不完全有信心。“……我们都需要希望这是一个工程问题。如果不是工程问题，那就无解了，”黄仁勋在最近的一次采访中表示。

没有炒作的 AI 新闻 – 由人工精心筛选

订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区的访问权限。