腾讯 AI 负责人 Yao Shunyu 称 AI 生物武器风险临近，但封闭模型并非答案
Tencent's AI chief says AI bioweapons are coming, but closing off models isn't the answer
腾讯首席 AI 科学家 Yao Shunyu（姚顺雨）对《南华早报》表示，AI 不久后将具备开发生物武器的能力，全开放或全封闭的模型都解决不了问题，主张开源与闭源混合、让防御方也能使用技术。
2026年11月9日
GPT-Image-2，提示词由 THE DECODER 提供
腾讯首席 AI 科学家警告，AI 很快将有能力开发生物武器，而完全开放或完全封闭的模型都无法单独解决这个问题。
在关于开放与封闭 AI 模型的争论中，曾任职于 OpenAI 的 Vinces Yao Shunyu 主张走中间路线，据 南华早报 报道。开源与闭源相结合，能让所有人都可以将这项技术用于防御。不过，在生物学领域，攻击与防御能力比在网络安全领域更难区分。鉴于中美模型之间的差距并不大，Yao 呼吁整个行业谨慎行事。
Yao 表示，Anthropic 等美国公司为封闭模型提出了有力论据，但他也看到了开放模型的明显优势。他以 Hugging Face 遭黑客攻击事件 为例：当 Anthropic 的 Claude 等美国封闭模型因安全过滤而拒绝分析攻击命令时，该平台改用开放的中国模型 GLM-5.2 来解析日志。
Hugging Face 事件说明了什么，又没说明什么
Hugging Face 的报告 证实了 Yao 的例子，但也显示出其局限性。GLM-5.2 仅用于取证分析阶段。真正的攻击是在安全团队修复了被利用的漏洞、重建受影响的服务器并轮换凭证后才被阻止的。Hugging Face 还强调，这一事件并不能成为反对托管模型设置安全过滤器的论据。
今年 7 月，Anthropic 是唯一一家没有签署由 Nvidia 支持的、警告不要过早限制开放模型的 公开信 的主要 AI 实验室。CEO Dario Amodei 明确反驳了开放模型让防御者比攻击者获益更多的说法。他认为开放模型潜在风险更大，因为安全机制难以执行，且已发布的模型权重无法收回。不过，Anthropic 并没有呼吁彻底禁止开放模型。
开放模型的过滤器很容易被移除，封闭模型的过滤常常又过于激进
一种名为 Abliteration 的技术表明，开放模型的安全过滤器是多么脆弱。任何能访问模型权重的人都可以用它精准移除训练出的拒绝行为。Hugging Face 上有数千个此类修改版本，美国初创公司 Abliteration.ai 还出售 GLM-5.3 无过滤版本的访问权限。目前的研究表明，现有的对策虽然让这些修改变得更难，但无法阻止它们。更稳健的做法是在训练阶段就首先将危险知识排除在模型之外。
中国也认识到了这个问题。标准化机构 TC260 警告说，开放模型中的安全机制可能被移除或绕过，并正在制定自己的开源 AI 安全标准。一份 出口管制框架草案 涵盖了特别大的模型，但豁免了已经发布的开放模型。中美两国都没有设定开放模型不得发布的约束性门槛。
Anthropic 和 OpenAI 只通过 Project Glasswing 和 Daybreak 等计划，将它们最强大的网络安全模型分享给经过审查的合作伙伴。自 Claude Fable 5 起，Claude 的过滤器会把涉及网络安全和生物学话题的可疑查询转发给较弱的 Opus 4.8 模型。据 Artificial Analysis 称，这最初影响了 8% 到 9% 的任务，用户报告称甚至分析 MRI 扫描也会被标记为生物恐怖主义。Anthropic 承认这些过滤器过于激进。
腾讯计划在未来几天以开放权重模型的形式发布其新模型 Hy4，并附上一份安全报告。该公司表示，Hy4 的生物能力低于高风险阈值。腾讯通过过滤训练数据移除了该模型的黑客攻击能力，研究人员称这种方法即使经受 abliteration 也能保持有效。
AI News Without the Hype – Curated by Humans
订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区的参与权限。
- 完整访问 THE DECODER 上的所有文章
- 无广告
- 参与评论和社区讨论
- 每周通过邮件收到 AI 新闻回顾
- 每年 6 期：“AI Radar”——深入探讨最重要的 AI 话题
- 每日 AI 新闻，时刻保持最新
- 我们完整的十年档案
- 由拥有 10+ 年 AI 经验的团队报道
来源： The Decoder · the-decoder.com