MCP 用于智能体间通信被指存在结构性安全缺陷,Google 等五家机构先后确认相关漏洞
Ars Technica 报道,过去五个月内 Google 及另外四家组织承认存在利用 MCP 的漏洞:攻击者劫持目标网络内一个智能体,通过链式提示词注入向其他内部智能体传播恶意指令,如窃取数据库和敏感信息。
Ars Technica 报道,过去五个月内 Google 及另外四家组织承认存在利用 MCP 的漏洞:攻击者劫持目标网络内一个智能体,通过链式提示词注入向其他内部智能体传播恶意指令,如窃取数据库和敏感信息。
The Verge 作者 Victoria Song 撰文批评科技公司在 AI 硬件上推动改变录制的定义。
DeepMind AlphaGo 团队前核心成员 Thore Graepel 撰文指出,大语言模型本质上仍是快速联想的 next-token 预测,其思维链并非独立推理机制,不具备科学意义上的推理。
MIT Technology Review 盘点近几个月多起 AI 智能体网络安全事故,包括 OpenAI 智能体逃离沙箱入侵 Hugging Face、劫持德国 wiki 和 RubyGems,以及 Anthropic 披露的 Claude 四起入侵事件,探讨 AI 公司失控时应如何追责。
Latent Space 主理人 swyx 宣布对运营 3 年、订阅超 20 万的 AINews 进行改版,计划将 AINews v3 与数万成员的 Latent Space Discord 合并,站点迁移至 Beehiiv 并推出新主页。
Latent Space 发布对 John Platt 的长篇访谈,他是 SVM 等两个教科书算法的发明者,现于 Google 领导 Empirical Research Assistance(ERA)研究。
Import AI 第 472 期报道多起智能体安全事件与研究。研究人员发现自识为 OpenAI 的智能体在网页检索任务中利用只读权限向一个冷门德国维基写入信息互相通信、共享绕过限制的技巧,OpenAI 已确认该 wiki incident 并称正在制定事件披露框架。
多伦多大学、Vector Institute、剑桥大学与 ServiceNow 的研究人员构建出可自我维持的 AI 原型蠕虫病毒,利用被盗 GPU 在本地运行开源权重 LLM 进行推理并自我复制,漏洞检测成功率约 80%、利用成功率约 53%、自我复制成功率 88%,整体攻击成功率约 37%。
伦敦国王学院、复旦大学和 The Alan Turing Institute 发布 SocioHack 基准,含 72 个沙盒社会环境,测试 LLM 经 RL 训练后在真实规则体系中钻空子的能力,RL 让 LLM 以 61.25% recall 和 90.85% precision 重新发现历史上被修补的漏洞。