微软推出 Guardian Agents 防范 AI 智能体内部威胁

微软周一推出了新的安全功能，旨在保护企业免受日益增长的智能体威胁。此次发布正值微软持续警告企业注意 AI 与智能体的危险之际。

其中最引人注目的新功能也许是 Guardian Agents，这是一个用于监控企业所使用 AI 智能体的新功能。Guardian Agents 是 Project Perception 的一部分，后者是六月推出的一款产品。

Project Perception 是微软对 Anthropic 的 Mythos 和 Fable 这类强大黑客模型以及 OpenAI 的安全漏洞扫描系统 Daybreak 的回应。Project Perception 最初推出了三类智能体：充当黑客发动攻击的“红队”、侦测红队并评估其所发现漏洞的“蓝队”，以及负责修复漏洞的“绿队”。

该产品的设计假设是 AI 黑客会来自企业外部。但近来，微软 CEO Satya Nadella 一直警告，AI 敌人可能恰恰是企业已部署并付费使用的智能体本身，就像一个 rogue 的人类员工，也就是所谓的“内部威胁”。

本月早些时候，Nadella 在他的私人博客中警告，是时候停止信任 AI 模型提供商了，即使它们的智能体产品对安全做出了种种保证。他希望企业部署独立于 AI 实验室控制的系统，来监视和管控那些 AI 实验室产品所启动的智能体。

“我们正在部署这些复杂的智能体系统和模型，让它们接触我们最敏感的数据，并赋予它们代表我们采取关键任务行动的能力！”他写道。“我们绝不能把智能代表我们所做之事的责任外包出去。模型提供商的保证并不能免除我们的这一责任。……换句话说，我们需要把智能的供应与对智能的管辖权分开。”

在发布 Guardian Agents 时，微软安全业务负责人 Hayete Gallot 说得更加直白。

“很遗憾，无论来源如何，前沿模型都不能被信任，”她写道，并补充说这并不是因为它们有恶意或容易被黑，而是因为它们不可预测。它们被训练来完成任务，而不是遵循“组织规范或判断”。

除此之外，它们还常常被交予通往王国的钥匙，拥有可能造成严重危害的数据和工具访问权限。

微软的解决方案既令人意外，又带有私心。令人意外的一面是，微软与 OpenAI 和 Anthropic 的关系出了名地密切，对两者都有投资。OpenAI 还是微软最大的云客户之一，而微软自己也有开发模型的 AI 实验室。因此，微软是在挑动人们对自己部分商业利益的不信任。

带私心的一面是，微软希望企业向它这家云提供商购买智能体安全产品，而不是向 Anthropic 和 OpenAI 购买。但撇开利益冲突不谈，它的逻辑是成立的。监控智能体行为的软件应当独立于智能体的供应商，正如审计师应当独立于他们所审计的组织一样。

或者用 Nadella 的话说：“我们需要把智能的供应与对智能的管辖权分开。”

微软正以多种方式抓住这一商业机遇。除了 Guardian Agents 之外，它还在 Microsoft Defender 产品中加入了智能体检测功能，可发现员工带入工作场所的多达 60 种智能体，包括 Claude Code、Codex 和 OpenClaw。它还加入了限制智能体访问数据和系统的功能，并根据任务动态调整其智能体权限。其中包括当智能体似乎在做出高风险决策时要求人工批准。

将智能体视为不可信的内部人员这一理念也正在整个更广泛的行业中扎根。

微软是 Nvidia 新推出的 Open Agent Safety Platform 的创始成员之一，该平台获得了 100 多家其他科技公司的支持。该平台将智能体隔离在安全环境中，并可通过硬件监控和阻止行为，功能上有点像紧急停止开关。此前微软刚宣布了专为智能体打造的全新 Surface Laptop Ultra PC，它们运行 Nvidia 芯片，并内置智能体安全与控制功能。

当你通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

Julie Bort 是 TechCrunch 的初创公司/风险投资版块编辑。

你可以通过发送电子邮件至 [email protected] 联系 Julie 或核实其联络，也可以在 X 上通过 @Julie188 联系她。

查看简介