纳德拉提议AI模型与控制系统分离并设紧急制动

2026年10月11日，TechCrunch报道，Microsoft CEO Satya Nadella 在 X 平台发文，呼吁为 AI 模型设置紧急制动机制，重新评估 AI 的信任架构，主张将模型与编排它的 harness（执行框架）分离，并把控制与防护措施外部化。随后 The Verge 于同日更详细地报道了纳德拉的观点：他主张不能再把 AI 当作简单接受或拒绝其建议的“嵌套黑箱”，而应构建可容纳、可观察、留下防篡改人类可读证据的透明系统，并提出及时披露事故、独立审计、数据可验证等要求。他还提出必须从一开始就假设模型已被攻破并加以隔离，如同紧急制动，授权人员应能随时中途暂停或关闭模型，并认为更先进的模型需要标准化的更先进遏制技术。目前该事件仅有纳德拉的表态，尚无后续落地进展披露。

AI 根据报道生成 · 17 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。