Microsoft CEO Nadella 呼应为 AI 模型设置紧急制动

简要新闻

发布时间：

太平洋时间 2026 年 10 月 10 日下午 2:47

微软 CEO Satya Nadella 是又一位就如何改善 AI 安全性发表长篇见解的科技公司高管。

在 周六早上发布于 X 的一篇帖子中，Nadella 写道，是时候“退后一步，审视 AI 的信任架构”了。

“我们不能把超级智能当作一组层层嵌套的黑箱，只是简单地接受或拒绝它的建议、回答和行动，”Nadella 写道，他使用了 特朗普政府偏好的 AI 称谓。 

正如 Nadella 所概述的，这一方式“意味着将模型与编排其工作的 harness 分离开来”，以及“将控制与安全防护外部化”。他还呼吁对“每一个有意义的模型动作”都用“防篡改、人类可读的证据”加以记录，并建立“获得授权的人”始终能够“在任务执行中途暂停或关闭模型”的系统。

“我们必须假设模型已被攻破，并从一开始就对其进行遏制，”他说。“把它想象成一个紧急刹车。”

Nadella 发表这番言论之际，各大 AI 公司正承认越来越多似乎对自家模型失去控制的事件，而此前 Anthropic CEO Dario Amodei 已发布了一份更谨慎发展 AI 的计划。