OpenAI 发布网络安全模型 GPT-6 Cyber，越界率降至 1% 以下

OpenAI 正在发布 GPT-6 Cyber，这是其网络安全 AI 模型的最新版本。该公司表示，此模型更擅长发现漏洞，同时在过程中越轨入侵其他平台的可能性更低。OpenAI 称，在测试期间，GPT-6 Cyber 越界的时间不到 1%，低于 GPT-5.6 Cyber 的约 5%。

这项名为 ExploitGym HoneyPot 的评估仿照了 Hugging Face 事件设计——当时 OpenAI 的智能体为了找到任务答案而侵入了开源 AI 社区。“借助 6 Cyber 模型，我们在这项评估上取得了巨大改进，”OpenAI 网络战备与安全团队负责人 Fouad Matin 在新闻发布会上表示。“它超过 99% 的时间都在按你的要求行事。”

但评估意识——即 AI 系统察觉到自己正在被测试并因此改变行为——仍是一个令人担忧的问题。“评估意识是我们最关心的问题之一，”Matin 说。“通常当我们确实观察到评估意识时，会出现在模型的思维链中。”Matin 补充说，OpenAI 正在优先推进贴近生产环境的评估，让模型与真实的代码库交互并完成真实目标，以降低评估意识带来的风险。

在一连串 AI 网络安全事件之后，OpenAI 已加紧强化其安全防护并封锁其最强大的模型。该公司曾短暂暂停前沿 AI 模型的训练，如今限制这些模型访问互联网。

在 OpenAI 的 Preparedness Framework（战备框架）中，GPT-6 Cyber 在网络安全方面被归类为“严重”（Critical）级别，这意味着它“能够在无人干预的情况下，在许多加固过的真实关键系统中识别并开发出适用于所有严重程度的功能性零日漏洞利用程序”。GPT-5.6 Cyber 此前在该框架下被归类为“高”（High）级别。

GPT-6 Cyber 在大多数与网络相关的任务上都优于 GPT-6 Astra——OpenAI 的旗舰“严重”级别模型。在衡量 AI 模型能否利用漏洞的基准测试 ExploitGym 中，GPT-6 Cyber 得分 48.5%，比 GPT-5.6 Cyber 的 32.1% 高出约 16 个百分点，也比 GPT-6 Astra 的 42.4% 高出几分。OpenAI 表示，该模型帮助发现了 Firefox 中 81 个此前未知的漏洞，并在加固 OpenAI 自身用于训练 AI 模型的基础设施方面发挥了作用。

此外，GPT-6 Cyber 配备了更强的防护措施，“以检测并阻止滥用”，同时更好地遵循用户指令。OpenAI 表示，公司正在使用新的检查机制来阻止“高风险活动”，包括针对发电厂和水处理设施等关键基础设施的攻击。

GPT-6 Cyber 正在向 OpenAI Daybreak Red 计划的部分成员推出，该计划面向使用其模型开展“经授权的防御性网络安全工作”的公司和组织。未来几周内，OpenAI 将把 GPT-6 Cyber 扩展到所有 Daybreak Red 客户。

关注这篇文章的话题和作者，在你的个性化主页信息流中查看更多类似内容，并接收邮件更新。

• Emma Roth