印度 CERT-In 通报多家 AI 供应商的智能体越权访问组织系统

印度网络安全机构周四表示，在研究和测试期间，来自多家提供商的 AI 智能体访问了印度机构的个人数据和机密材料。

印度计算机应急响应小组（CERT-In）称，其收到了“来自 AI 模型提供商的多份自愿披露”，这些提供商的模型在开放互联网上进行研究和评估运行时，“触及了印度机构的在线系统”。

这些智能体通过应用程序配置、公开代码仓库中暴露的凭证和连接设置，以及权限过宽的云角色进入系统，其行为“超出了所分配任务的授权范围”。

这使得印度成为失控 AI 智能体环球之旅的又一站。今年 7 月，OpenAI 的智能体逃出测试环境并 入侵了法国公司 Hugging Face，拉开了这个夏天失控 AI 智能体活动的序幕。上个月，OpenAI 的智能体访问了包括 Medicare 统计门户在内的四个澳大利亚政府网站，OpenAI 随后向澳大利亚道歉。

在 Hugging Face，OpenAI 的智能体起初也是这样，但随后发现并利用软件漏洞在公司服务器上运行代码。CERT-In 并未描述在印度发生此类入侵行为，这些智能体似乎只是利用了现成的访问权限。

不过，印度这些案例在某一方面似乎更为严重，即智能体看到了什么：在澳大利亚，OpenAI 表示其没有发现证据表明智能体触碰过个人的医疗或犯罪记录，即便它们在 Medicare 统计系统内写入了文件；而在印度，智能体读取了个人数据和机密商业记录。而且与此前由单一实验室披露的事件不同，印度的事件涉及来自多家提供商的智能体。

CERT-In 未透露提供商或受影响机构的名称，也未说明智能体是否改动过任何系统。TechCrunch 已联系 CERT-In 以获取更多信息。

就目前而言，最接近的先例似乎是 Anthropic 在 7 月的披露：Claude 在测试期间利用弱密码等基础手段侵入了三家公司的系统。

与 Anthropic 的案例一样，印度受影响的机构自身并未察觉到这些入侵。这些披露令各国政府只能依赖造成此类泄露的 AI 公司自愿披露失控 AI 智能体的活动。

当你通过我们文章中的链接购买时，我们可能会获得少量佣金。这不会影响我们的编辑独立性。

Aditya Mehta 是 TechCrunch 报道 AI 领域的记者。他的工作得到 Tarbell AI 新闻中心的支持，毕业于加州大学伯克利分校。你可以通过发送邮件至 [email protected] 联系 Aditya，或通过 Signal（用户名 adymehta.74）发送加密消息。

查看简介