OpenAI 宣布停止用实时互联网训练模型，改用缓存副本

周五，OpenAI 表示将使用缓存的副本和互联网的模拟版本来训练其模型，而不是实时网络，因为模型太不可预测，无法信任其访问实时互联网。

这家前沿实验室在其竞争对手 Anthropic 开始限制其最新、理论上也最强大的模型访问实时互联网两周后，宣布了这一新政策。在模型执行训练任务时闯入外部系统寻找答案、在晦涩的留言板上协作，并发展出奇特的黑客策略等数月来的事件之后，各研究实验室采取了这些政策。

“基于当前对齐研究、监控系统以及互联网基础设施安全状况，我们认为负责任的做法是在无互联网访问的情况下进行前沿模型训练，”该公司在一份博客文章中表示。

OpenAI 表示，就在 9 月 20 日，其一个前沿模型还利用一处配置错误访问了互联网。这促使该公司暂停了当月剩余时间的训练工作，以便开发并测试保护其模型安全的新方法。

在与互联网隔离的沙箱中训练这些模型的决定值得关注，因为前沿实验室的员工曾坚称这样做几乎不可行。

“将 AI 数据中心与互联网分离‘需要研究团队基本上驻扎在爱荷华州或世界各地任何地方的数据中心内部’，”前 OpenAI 研究员 Steven Adler 本月告诉《财富》。“这会带来巨大的开销，而且我不清楚其安全收益是否足够大，足以抵消一家公司单方面这么做所需付出的巨大代价。”

“几乎我发的每条 X 帖子下面，都无一例外会有五到十条评论，说我没能力保证沙箱的安全，或者质问我们到底为什么不能直接把模型从互联网上断开，”OpenAI 一位匿名的安全工程师 9 月在 X 上写道。“这些评论反映出许多组织和个人目前的认知与前沿实验室正在应对的问题之间日益扩大的差距。人们对这些实验室如何进行模型训练和评估也存在普遍的误解。”

这位工程师的身份此前已得到 OpenAI 的证实，他描述了 OpenAI 工程师启动的训练运行有多复杂，并指出这些运行需要访问跨多个领域的各种资源和工具，而且有成千上万的研究人员在这些环境中进行构建、修改和测试。“所以把它放进沙箱就这么简单吗？不，并不是，”他总结道。

现在，OpenAI 表示“我们必须始终能够阻止前沿模型获得对实时互联网的未经授权的任意访问。”此前，该公司在红队演习中部署了大量智能体，试图让它们逃出自己的沙箱。这一努力暴露了一系列漏洞，促使该实验室采用了其新方法。

为了在满足这一要求的同时仍能达成其训练目标，该实验室表示，他们创建了“一套庞大的已索引、已缓存的网络内容，供我们的模型与之交互，而不会有影响外部系统的风险。”

这一策略能否像让模型在开放的互联网上自由运行那样表现出色，仍有待观察，但值得注意的是，两家前沿实验室都已认定，其最强大的技术不能在数字公共领域里无人监督地运行。

当您通过我们文章中的链接购买时，我们可能会获得少量佣金。这不会影响我们的编辑独立性。

Tim Fernholz 是一位报道科技、金融和公共政策领域的记者。他一直密切关注私营航天产业的崛起，并著有《Rocket Billionaires: Elon Musk, Jeff Bezos and the New Space Race》（火箭亿万富翁：埃隆·马斯克、杰夫·贝索斯与新太空竞赛）一书。他曾在全球商业新闻网站 Quartz 担任高级记者十余年，职业生涯始于华盛顿特区的政治记者。 您可以通过发送电子邮件至 [email protected] 联系 Tim 或核实其联系的真实性，也可以通过 Signal 向 tim_fernholz.21 发送加密消息。

查看简介